Amazon afirma que el uso por parte del FBI de su software de análisis de imágenes y videos Rekognition no viola su mortarium sobre las ventas de tecnología de reconocimiento facial a agencias policiales estadounidenses, porque solo se aplicó a las fuerzas policiales cuando realizaban investigaciones criminales. Junto con Microsoft e IBM, Amazon impuso una moratoria de un año sobre el uso policial de su software de reconocimiento facial en junio de 2020 tras una intensa reacción internacional por el asesinato policial de George Floyd un mes antes. Si bien los departamentos de policía de EE. UU. parecían tener completamente prohibido usar la tecnología en cualquier caso, Amazon dijo que permitiría que algunas organizaciones no policiales siguieran usando su software Rekognition. “Estamos implementando una moratoria de un año sobre el uso policial de la tecnología de reconocimiento facial de Amazon. Continuaremos permitiendo que organizaciones como Thorn, el Centro Internacional para Niños Desaparecidos y Explotados y Marinus Analytics utilicen Amazon Rekognition para ayudar a rescatar a las víctimas de la trata de personas y reunir a los niños desaparecidos con sus familias”, escribió en ese momento en un breve breve, dos -Párrafo de publicación de blog. Inicialmente implementada por un año, Amazon luego extendió la moratoria indefinidamente en mayo de 2021 sin explicación. Sin embargo, en enero de 2024, FedScoop descubrió un inventario actualizado de «casos de uso de IA» publicado por el Departamento de Justicia de EE. UU. (DoJ), que reveló que el FBI está utilizando Amazon Rekognition en el marco del «Proyecto Tyr»; una designación que hace referencia al dios nórdico de la guerra. Un resumen del proyecto, que no menciona explícitamente las capacidades de reconocimiento facial de la herramienta, señala que «Amazon Rekognition ofrece capacidades de visión por computadora (CV) previamente entrenadas y personalizables para extraer información y conocimientos de imágenes y videos adquiridos legalmente», y que se personalizará para “revisar e identificar artículos que contengan desnudez, armas, explosivos y otra información de identificación”. Si bien el inventario proporciona más detalles sobre el software que se compra en el mercado y “preconstruido” de un tercero, también muestra que muchos aspectos del proyecto, incluido el origen de los datos de entrenamiento y las técnicas específicas de IA. se utilizarán; aún no se han finalizado. Según la documentación disponible públicamente para Rekognition en el sitio web de Amazon, los clientes pueden utilizar la herramienta para detectar y analizar una variedad de información visual utilizando una variedad de interfaces de programación de aplicaciones (API). Estas API se proporcionan en términos generales en dos conjuntos, uno para análisis de imágenes y otro para video, pero cada acción requiere que el cliente tenga los permisos adecuados para llamar a la API de una manera determinada. Cuando buscan detectar un objeto como un automóvil o una pistola, por ejemplo, los clientes de Amazon pueden llamar a la API DetectLabels para devolver información sobre, por ejemplo, el objeto, el nivel de confianza que el software tiene en las etiquetas asignadas al objeto, y posibles otros nombres para ese objeto. Por lo tanto, el cliente no podría llamar a esa API para devolver información sobre los rostros de las personas, lo que requeriría «permisos para realizar la acción de reconocimiento:DetectFaces». Computer Weekly se puso en contacto con el FBI para obtener más información sobre su uso de Amazon Rekognition, incluidas las API a las que tiene acceso y si esto significa que puede usar las capacidades de reconocimiento facial, pero la agencia se negó a comentar sobre cualquier aspecto de la historia. Computer Weekly también se puso en contacto con Amazon para aclarar si su moratoria policial sobre el reconocimiento facial se extiende a las agencias federales encargadas de hacer cumplir la ley como el FBI; si la empresa ha restringido de alguna manera el acceso de las agencias a las API que le permitirían utilizar las funciones de reconocimiento facial de las herramientas; y si la policía local o estatal podría acceder a estas capacidades a través del FBI. «Impusimos una moratoria sobre el uso de la función de comparación de rostros de Amazon Rekognition por parte de los departamentos de policía en relación con investigaciones criminales en junio de 2020, y sugerir que hemos relajado esta moratoria es falso», dijo un portavoz de Amazon. “Rekognition es un servicio de análisis de imágenes y videos que tiene muchas funciones de comparación y análisis no faciales. Nada en la divulgación del Departamento de Justicia indica que el FBI esté violando la moratoria de alguna manera. “Como hemos dicho muchas veces, y seguimos creyendo firmemente, las empresas y las organizaciones gubernamentales deben utilizar la tecnología nueva y existente de manera responsable y legal. También creemos que los gobiernos deberían implementar regulaciones para regir el uso ético de la tecnología de reconocimiento facial, y estamos listos para ayudarlos a diseñar reglas apropiadas, si así lo solicitan”. El portavoz también señaló los términos de servicio de Amazon para Rekognition, que reiteran el punto de que su moratoria se limita al uso de la comparación de rostros por parte de la policía en investigaciones criminales y «no se aplica al uso de… [the] función para ayudar a identificar o localizar a personas desaparecidas”. Los términos de servicio añadían que cualquier “organismo encargado de hacer cumplir la ley… [using] El reconocimiento para investigaciones criminales debe proporcionar una divulgación pública que describa su uso de sistemas de reconocimiento facial”. Al utilizar Wayback Machine para verificar los términos de servicio de Amazon tras el anuncio de la moratoria el 10 de junio de 2020, la advertencia de «investigaciones criminales» solo aparece en capturas web a partir del 26 de junio en adelante. Una captura de dos días antes, el 24 de junio, no muestra ninguna mención de la moratoria.

Source link