La inteligencia artificial (IA) “transformará profundamente el panorama de las fuerzas del orden” siempre que se adopte de manera responsable, afirmó la directora ejecutiva de Europol, Catherine De Bolle. Los comentarios de De Bolle se produjeron cuando la organización policial lanzó un nuevo informe sobre la tecnología, en el que se afirmaba que la IA generativa (GenAI) ofrece a los agentes del orden “un tesoro de posibilidades”. El informe sobre inteligencia artificial y policía del Laboratorio de Innovación de Europol argumentó que: Las redes generativas adversarias (GAN) podrían ayudar a la policía a evaluar el rendimiento de los sistemas biométricos sin comprometer la privacidad de los ciudadanos, al generar imágenes faciales sintéticas y otros datos para evaluar la precisión Las GAN también podrían ayudar a combatir el fraude de identidad mediante el desarrollo de tecnologías anti-suplantación Los modelos de lenguaje grande (LLM) podrían capacitar a los oficiales para realizar investigaciones de código abierto y análisis de inteligencia Los LLM podrían ayudar a los equipos a desarrollar herramientas técnicas de investigación Los LLM podrían acelerar las tareas administrativas como la redacción de informes y el resumen de información La generación aumentada de recuperación (RAG) podría usarse para resolver el desafío de las alucinaciones GenAI «El uso de LLM por parte de las fuerzas del orden requeriría un entorno seguro en el que se pueda confiar información confidencial, así como evaluaciones exhaustivas sobre la protección de los derechos fundamentales y la mitigación de posibles sesgos», reconoció el informe. «La IA generativa representa el siguiente salto, pasando del análisis pasivo a la creación activa. Sin embargo, como cualquier aplicación, su poder radica en su aplicación juiciosa y ética, equilibrando la innovación con la responsabilidad». Entre otros casos de uso de la IA en la policía, el informe destacó: Análisis criminal avanzado que revela tendencias en grandes cantidades de datos Procesamiento del lenguaje natural (PLN) capaz de extraer información procesable de los tesoros de datos, para mejorar la previsión de recursos y la eficiencia operativa Información en tiempo real de inteligencia de código abierto (OSINT) y redes sociales (SOCMINT) para abordar delitos urgentes como el terrorismo y los delitos contra los niños Traducción automática para ayudar a la colaboración transfronteriza Lea más sobre el uso policial de la IA: Europol advierte sobre los desafíos de cumplimiento de la amenaza terrorista de metaverso e IA El informe también reconoció las limitaciones de la Ley de IA de la UE, que prohíbe el uso del reconocimiento facial masivo «en vivo» por parte de las fuerzas del orden, con algunas excepciones. Pidió auditorías periódicas de los sistemas de IA para garantizar el cumplimiento de las normas de privacidad y protección de datos. «El desarrollo y la implementación efectivos de las tecnologías de IA requieren una infraestructura y experiencia tecnológica sustanciales, lo que presenta desafíos significativos, en particular para las agencias de aplicación de la ley más pequeñas», señaló. «Las agencias de aplicación de la ley deben navegar por paisajes legales y éticos complejos al tiempo que invierten en capacitación y concienciación entre su personal para garantizar el manejo adecuado de los datos y prácticas de procesamiento de datos responsables». El informe continúa diciendo que será necesario asignar recursos adicionales para ayudar a cumplir con la Ley de IA de la UE. “La rendición de cuentas, la transparencia y la explicabilidad son esenciales no solo para un uso ético y responsable de la IA, sino también para garantizar que las pruebas recopiladas y analizadas por los sistemas de IA resistan el escrutinio, respeten el derecho a un juicio justo y se consideren aceptables en los procedimientos judiciales”.
Deja una respuesta