En enero de 2020, Robert Williams pasó 30 horas en una cárcel de Detroit porque la tecnología de reconocimiento facial sugirió que era un delincuente. La coincidencia era errónea y Williams presentó una demanda. El viernes, como parte de un acuerdo legal por su arresto injusto, Williams obtuvo un compromiso del Departamento de Policía de Detroit para mejorar. La ciudad adoptó nuevas reglas para el uso policial de la tecnología de reconocimiento facial que la Unión Estadounidense por las Libertades Civiles, que representó a Williams, dice que debería ser el nuevo estándar nacional. «Esperamos que mueva la aguja en la dirección correcta», dijo Williams. Williams fue la primera persona conocida por ser arrestada injustamente debido a un reconocimiento facial defectuoso. Pero no fue el último. La policía de Detroit arrestó al menos a otras dos personas como resultado de búsquedas de reconocimiento facial que salieron mal, incluida una mujer que fue acusada de robo de auto cuando estaba embarazada de ocho meses. Las agencias policiales de todo el país utilizan la tecnología de reconocimiento facial para tratar de identificar a los delincuentes cuyas fechorías son captadas por la cámara. En Michigan, el software compara un rostro desconocido con los que aparecen en una base de datos de fotografías policiales o fotos de licencias de conducir. En otras jurisdicciones, la policía utiliza herramientas, como Clearview AI, que buscan en fotos extraídas de sitios de redes sociales y de Internet. Una de las nuevas reglas más importantes adoptadas en Detroit es que las imágenes de personas identificadas mediante tecnología de reconocimiento facial ya no se pueden mostrar a un testigo ocular en una rueda de reconocimiento fotográfico a menos que haya otra evidencia que las vincule con el crimen. «El proceso de ‘tomar una foto, ponerla en una rueda de reconocimiento’ terminará», dijo Phil Mayor, abogado de la ACLU de Michigan. «Este acuerdo hace que el Departamento de Policía de Detroit pase de ser el mal uso mejor documentado de la tecnología de reconocimiento facial a ser un líder nacional en tener barandillas en su uso». La policía dice que la tecnología de reconocimiento facial es una herramienta poderosa para ayudar a resolver crímenes, pero algunas ciudades y estados, incluidos San Francisco; Austin, Texas; y Portland, Oregón, han prohibido temporalmente su uso debido a preocupaciones sobre la privacidad y el sesgo racial. Stephen Lamoreaux, jefe de informática de la unidad de inteligencia criminal de Detroit, dijo que el Departamento de Policía estaba «muy interesado en usar la tecnología de una manera significativa para la seguridad pública». Detroit, afirmó, tiene «la política más fuerte de la nación ahora». Cómo sale mal Williams fue arrestado después de un crimen que ocurrió en 2018. Un hombre robó cinco relojes de una boutique en el centro de Detroit, mientras era grabado por una cámara de vigilancia. Una empresa de prevención de pérdidas proporcionó las imágenes al Departamento de Policía de Detroit. Una búsqueda del rostro del hombre en fotografías de la licencia de conducir y fotos policiales produjo 243 fotos, clasificadas en orden de confianza del sistema de que era la misma persona en el video de vigilancia, según los documentos revelados como parte de la demanda de Williams. Una vieja foto de la licencia de conducir de Williams estaba en el noveno lugar de la lista. La persona que realizó la búsqueda consideró que era la mejor coincidencia y envió un informe a un detective de la policía de Detroit. El detective incluyó la foto de Williams en una «six-pack photo line» (fotos de seis personas en una cuadrícula) que le mostró al contratista de seguridad que había proporcionado el video de vigilancia de la tienda. Ella estuvo de acuerdo en que Williams era el más parecido al hombre de la boutique, y esto condujo a la orden de arresto en su contra. Williams, que había estado en su escritorio en una empresa de suministros para automóviles cuando le robaron los relojes, pasó la noche en la cárcel y le tomaron las huellas dactilares y el ADN. Fue acusado de fraude minorista y tuvo que contratar a un abogado para defenderse. Los fiscales finalmente desestimaron el caso. Demandó a Detroit en 2021 con la esperanza de forzar la prohibición de la tecnología para que otros no sufrieran su destino. Dijo que se molestó el año pasado cuando se enteró de que la policía de Detroit había acusado a Porcha Woodruff de robo de auto y robo después de una mala coincidencia de reconocimiento facial. La policía arrestó a Woodruff mientras preparaba a sus hijos para la escuela. También ha demandado a la ciudad; la demanda está en curso. «Es muy peligroso», dijo Williams, refiriéndose a la tecnología de reconocimiento facial. «No veo el beneficio positivo en ello». Las nuevas reglas La policía de Detroit es responsable de tres de los siete casos conocidos en los que el reconocimiento facial ha dado lugar a un arresto injusto. (Los otros dos casos se dieron en Luisiana, Nueva Jersey, Maryland y Texas.) Pero los funcionarios de Detroit dijeron que los nuevos controles evitarían más abusos. Y siguen siendo optimistas sobre el potencial de la tecnología para resolver delitos, que ahora utilizan sólo en casos de delitos graves, incluidos asaltos, asesinatos y allanamientos de morada. James White, jefe de policía de Detroit, ha culpado al «error humano» de los arrestos injustificados. Sus agentes, dijo, dependían demasiado de las pistas que producía la tecnología. Era su juicio el que fallaba, no el de la máquina. Se supone que la nueva política, que entra en vigor a partir de este mes, ayudará con eso. Según las nuevas normas, la policía ya no puede mostrar el rostro de una persona a un testigo ocular basándose únicamente en una coincidencia de reconocimiento facial. «Tiene que haber algún tipo de prueba corroborante secundaria que no esté relacionada antes de que haya suficiente justificación para ir a la rueda de reconocimiento», dijo el Sr. Lamoreaux de la unidad de inteligencia criminal de Detroit. La policía necesitaría información sobre la ubicación de una persona, por ejemplo, a través del teléfono o de pruebas de ADN, algo más que un parecido físico. El departamento también está cambiando la forma en que lleva a cabo las filas de fotografías. Está adoptando lo que se llama una secuencia doble ciego, que se considera una forma más justa de identificar a alguien. En lugar de presentar un «paquete de seis» a un testigo, un oficial (que no sabe quién es el principal sospechoso) presenta las fotos una a la vez. Y la fila incluye una foto de la persona diferente de la que arrojó el sistema de reconocimiento facial. La policía también tendrá que revelar que se realizó una búsqueda facial, así como la calidad de la imagen del rostro que se está buscando (¿Qué tan granulada era la cámara de vigilancia? ¿Qué tan visible es el rostro del sospechoso?), porque es menos probable que una imagen de mala calidad produzca resultados confiables. También tendrán que revelar la edad de la foto obtenida por el sistema automatizado, y si había otras fotos de la persona en la base de datos que no coincidían. Franklin Hayes, subdirector de policía de Detroit, dijo que confiaba en que las nuevas prácticas evitarían futuras identificaciones erróneas. «Todavía hay algunas cosas que podrían pasar desapercibidas, por ejemplo, los gemelos idénticos», dijo Hayes. «Nunca podemos decir nunca, pero creemos que ésta es nuestra mejor política hasta el momento». Arun Ross, profesor de informática en la Universidad Estatal de Michigan y experto en tecnología de reconocimiento facial, dijo que la política de Detroit era un gran punto de partida y que otras agencias deberían adoptarla. «No queremos pisotear los derechos y la privacidad de las personas, pero tampoco queremos que el crimen se propague», dijo Ross. ¿En qué medida ayuda? La identificación de testigos oculares es una tarea complicada y la policía ha adoptado las cámaras y el reconocimiento facial como herramientas más fiables que la memoria humana imperfecta. El jefe White dijo a los legisladores locales el año pasado que la tecnología de reconocimiento facial había ayudado «a sacar a 16 asesinos de la calle». Cuando se les pidió más información, los funcionarios del Departamento de Policía no proporcionaron detalles sobre esos casos. En cambio, para demostrar los éxitos del departamento con la tecnología, los funcionarios de la policía reprodujeron un video de vigilancia de un hombre que roció combustible dentro de una gasolinera y le prendió fuego. Dijeron que había sido identificado con tecnología de reconocimiento facial y arrestado esa noche. El Departamento de Policía de Detroit es uno de los pocos que lleva un registro de sus búsquedas de reconocimiento facial, y envía informes semanales sobre su uso a una junta de supervisión. En los últimos años, ha realizado un promedio de más de 100 búsquedas al año, y alrededor de la mitad de esas búsquedas revelan posibles coincidencias. El departamento solo lleva un registro de la frecuencia con la que obtiene una pista, no de si la pista resulta ser cierta. Pero como parte de su acuerdo con Williams, quien también recibió $300,000, según un portavoz de la policía, tiene que realizar una auditoría de sus búsquedas de reconocimiento facial que se remontan a cuando comenzó a usar la tecnología en 2017. Si identifica otros casos en los que las personas fueron arrestadas con poca o ninguna otra evidencia de respaldo más allá de una coincidencia facial, se supone que el departamento debe alertar al fiscal correspondiente. Molly Kleinman, directora de un centro de investigación tecnológica en la Universidad de Michigan, dijo que las nuevas protecciones sonaban prometedoras, pero se mantuvo escéptica. «Detroit es una ciudad extraordinariamente vigilada. Hay cámaras en todas partes», dijo. “Si toda esta tecnología de vigilancia realmente hiciera lo que promete, Detroit sería una de las ciudades más seguras del país”. Willie Burton, miembro de la Junta de Comisionados de Policía, un grupo de supervisión que aprobó las nuevas políticas, las describió como “un paso en la dirección correcta”, aunque todavía se oponía al uso de tecnología de reconocimiento facial por parte de la policía. “La tecnología simplemente no está lista todavía”, dijo Burton. “Un arresto falso es demasiado, y tener tres en Detroit debería hacer sonar la alarma para que se descontinúe”.