En enero de 2020, Robert Williams pasó 30 horas en una cárcel de Detroit porque la tecnología de reconocimiento facial sugería que era un criminal. La correspondencia era incorrecta y el señor Williams emprendió acciones legales.
El viernes, como parte de un acuerdo legal por su arresto injusto, Williams obtuvo el compromiso del Departamento de Policía de Detroit de hacerlo mejor. La ciudad adoptó nuevas reglas para el uso policial de la tecnología de reconocimiento facial, que según la Unión Estadounidense de Libertades Civiles, que representó al Sr. Williams, debería convertirse en el nuevo estándar nacional.
«Esperamos que esto impulse las cosas en la dirección correcta», afirmó Williams.
El Sr. Williams fue la primera persona conocida arrestada injustamente debido a un reconocimiento facial defectuoso. Pero él no fue el último. La policía de Detroit arrestó al menos a otras dos personas luego de que las búsquedas de reconocimiento facial salieran mal, incluida una mujer acusada de robo de auto mientras estaba embarazada de ocho meses.
Los organismos encargados de hacer cumplir la ley en todo el país están utilizando tecnología de reconocimiento facial para tratar de identificar a los delincuentes cuyas fechorías son captadas por la cámara. En Michigan, el software compara un rostro desconocido con aquellos que figuran en una base de datos de fotografías policiales o de licencias de conducir. En otras jurisdicciones, la policía utiliza herramientas, como Clearview AI, que busca fotografías recuperadas de sitios de redes sociales y de la Internet pública.
Una de las nuevas reglas más importantes adoptadas en Detroit es que las imágenes de personas identificadas mediante tecnología de reconocimiento facial ya no se pueden mostrar a un testigo durante una sesión fotográfica, a menos que exista otra evidencia que las vincule con el crimen.
“El proceso de 'tomar una foto y ponerla en cola' terminará”, dijo Phil Mayor, abogado de la ACLU de Michigan. «Este acuerdo hace que el Departamento de Policía de Detroit pase de ser el usuario indebido de la tecnología de reconocimiento facial mejor documentado a convertirse en un líder nacional en el uso de barandillas».
La policía dice que la tecnología de reconocimiento facial es una herramienta poderosa para ayudar a resolver delitos, pero algunas ciudades y estados, incluido San Francisco; Austin, Texas; y Portland, Oregon, prohibieron temporalmente su uso debido a preocupaciones sobre la privacidad y los prejuicios raciales. Stephen Lamoreaux, gerente de TI de la unidad de inteligencia criminal de Detroit, dijo que el departamento de policía está «muy ansioso por utilizar la tecnología de manera significativa para la seguridad pública». Detroit, dijo, tiene “la política más fuerte del país en este momento”.
¿Cómo va mal?
Williams fue arrestado después de un delito en 2018. Un hombre robó cinco relojes de una tienda en el centro de Detroit mientras era grabado por una cámara de vigilancia. Una empresa de prevención de pérdidas proporcionó las imágenes al Departamento de Policía de Detroit.
Una búsqueda del rostro del hombre con fotografías de la licencia de conducir y fotografías policiales produjo 243 fotografías, clasificadas en orden de confianza del sistema de que era la misma persona en el video de vigilancia, según los documentos revelados como parte de la denuncia del Sr. Williams. Una antigua fotografía del Sr. Williams tomada de una licencia de conducir ocupaba el noveno lugar en la lista. La persona que realizó la búsqueda consideró que era la mejor coincidencia y envió un informe a un detective de la policía de Detroit.
El detective incluyó la foto del Sr. Williams en una «matriz de fotografías de seis personas» (fotos de seis personas en una cuadrícula) que mostró a la compañía de seguridad que proporcionó el video de vigilancia de la tienda. Ella estuvo de acuerdo en que el Sr. Williams era la persona más cercana al hombre en la tienda, lo que dio lugar a la orden de arresto. Williams, que estaba en su escritorio en una empresa de suministros para automóviles cuando robaron los relojes, pasó la noche en la cárcel y le tomaron las huellas dactilares y el ADN. Fue acusado de fraude minorista y tuvo que contratar a un abogado para defenderse. Los fiscales finalmente abandonaron el caso.
En 2021, presentó una demanda contra Detroit con la esperanza de imponer una prohibición a la tecnología para que otros no sufrieran su suerte. Dijo que se molestó el año pasado cuando se enteró de que la policía de Detroit había acusado a Porcha Woodruff de robo de auto y hurto después de una mala coincidencia de reconocimiento facial. La policía arrestó a la Sra. Woodruff mientras preparaba a sus hijos para la escuela. También presentó una demanda contra la ciudad; el juicio está en curso.
«Es muy peligroso», dijo Williams, refiriéndose a la tecnología de reconocimiento facial. “No veo los beneficios positivos de ello. »
las nuevas reglas
La policía de Detroit es responsable de tres de los siete casos conocidos en los que el reconocimiento facial condujo a un arresto injusto. (Los otros ocurrieron en Luisiana, Nueva Jersey, Maryland y Texas). Pero los funcionarios de Detroit dijeron que las nuevas medidas evitarían más abusos. Y siguen siendo optimistas sobre el potencial de la tecnología para resolver crímenes, que ahora utilizan sólo para delitos graves, incluidos asaltos, asesinatos e allanamientos de viviendas.
James White, jefe de policía de Detroit, atribuyó los arrestos injustificados a un «error humano». Según él, sus agentes dependían demasiado de la información proporcionada por la tecnología. Fue su juicio el que estaba equivocado, no el de la máquina.
Se supone que la nueva política, que entrará en vigor este mes, contribuirá a ello. Según las nuevas reglas, la policía ya no puede mostrar el rostro de una persona a un testigo basándose únicamente en una coincidencia de reconocimiento facial.
«Tiene que haber algún tipo de evidencia secundaria que lo corrobore y que no esté relacionada antes de que haya una justificación suficiente para proceder con la alineación», dijo Sr. Lamoreaux, de la unidad de inteligencia criminal de Detroit. La policía necesitaría información sobre la ubicación de una persona desde el teléfono, por ejemplo, o pruebas de ADN, algo más que un simple parecido físico.
El departamento también está cambiando la forma en que realiza identificaciones con fotografía. Adopta lo que se llama identificación secuencial doble ciego, considerada una forma más justa de identificar a una persona. En lugar de presentarle un “six-pack” a un testigo, un oficial –que no sabe quién es el principal sospechoso– presenta las fotos una por una. Y la identificación incluye una foto de la persona diferente a la que mostró el sistema de reconocimiento facial.
La policía también tendrá que revelar que se realizó un registro facial, así como la calidad de la imagen del rostro registrado. ¿Qué tan granulada era la cámara de vigilancia? ¿Qué tan visible es la cara del sospechoso? — porque es menos probable que una imagen de mala calidad produzca resultados confiables. También deberán revelar la antigüedad de la foto revelada por el sistema automatizado y si había otras fotos de la persona en la base de datos que no coincidieran.
Franklin Hayes, subjefe de policía de Detroit, dijo que confía en que las nuevas prácticas evitarán futuras identificaciones erróneas.
«Todavía hay algunas cosas que podrían salir mal, por ejemplo, los gemelos idénticos», dijo Hayes. «Nunca podremos decir nunca, pero creemos que esta es nuestra mejor política hasta el momento». »
Arun Ross, profesor de informática en la Universidad Estatal de Michigan y experto en tecnología de reconocimiento facial, dijo que la política de Detroit es un excelente punto de partida y que otras agencias deberían adoptarla.
«No queremos pisotear los derechos y la privacidad de las personas, pero tampoco queremos que se generalice el crimen», dijo Ross.
¿Cuánto ayuda esto?
La identificación de testigos presenciales es una tarea difícil y la policía ha adoptado cámaras y reconocimiento facial como herramientas más confiables que la memoria humana imperfecta.
El año pasado, el Jefe White dijo a los legisladores locales que la tecnología de reconocimiento facial había ayudado a «sacar a 16 asesinos de las calles». Cuando se les pidió más información, los funcionarios del departamento de policía no proporcionaron detalles sobre estos casos.
En cambio, para demostrar los éxitos del departamento con la tecnología, los agentes de policía publicaron un vídeo de vigilancia de un hombre que arrojaba combustible dentro de una gasolinera y provocaba el incendio. Dijeron que fue identificado mediante tecnología de reconocimiento facial y arrestado esa noche. Posteriormente se declaró culpable.
El Departamento de Policía de Detroit es uno de los pocos que controla su investigación de reconocimiento facial y presenta informes semanales sobre su uso a un comité de supervisión. En los últimos años, ha realizado un promedio de más de 100 búsquedas por año, de las cuales aproximadamente la mitad arrojaron coincidencias potenciales.
El departamento sólo considera la frecuencia con la que recibe un cliente potencial, no el éxito de ese cliente potencial. Pero como parte de su acuerdo con Williams, que también recibió 300.000 dólares, según un portavoz de la policía, debe realizar una auditoría de sus búsquedas de reconocimiento facial que se remontan al momento en que comenzó a utilizar esta tecnología en 2017. Si identifica otros casos en los que las personas fueron arrestadas con poca o ninguna otra evidencia de respaldo más allá de una coincidencia facial, se supone que el departamento debe alertar al fiscal en cuestión.
Molly Kleinman, directora de un centro de investigación tecnológica de la Universidad de Michigan, dijo que las nuevas protecciones parecían prometedoras, pero seguía siendo escéptica.
“Detroit es una ciudad extraordinariamente vigilada. Hay cámaras por todas partes», dijo. «Si toda esta tecnología de vigilancia realmente hiciera lo que dice hacer, Detroit sería una de las ciudades más seguras del país».
Willie Burton, miembro de la Junta de Comisionados de Policía, grupo de vigilancia que aprobó las nuevas políticas, las describió como «un paso en la dirección correcta», aunque todavía se opone al uso de la tecnología de reconocimiento facial por parte de la policía.
«La tecnología aún no está lista», afirmó Burton. “Un arresto falso es demasiado, y tener tres en Detroit debería hacer sonar las alarmas para detenerlo”.
