Rusia, China y otros rivales estadounidenses están utilizando la última ola de herramientas de inteligencia artificial para mejorar sus capacidades de piratería y encontrar nuevos objetivos para el espionaje en línea, según un informe del miércoles de Microsoft y su cercano socio comercial OpenAI. ha estado experimentando con grandes modelos de lenguaje para ayudar con tareas de programación, traducir correos electrónicos de phishing y armar planes de ataque, el nuevo informe es el primero en asociar equipos de piratería gubernamental de primer nivel con usos específicos de LLM. También es el primer informe sobre contramedidas y se produce en medio de un debate continuo sobre los riesgos de la tecnología en rápido desarrollo y los esfuerzos de muchos países para poner algunos límites a su uso. El documento atribuye varios usos de la IA a dos grupos de hackers afiliados al gobierno chino y a un grupo de Rusia, Irán y Corea del Norte, que comprende los cuatro países que más preocupan a los ciberdefensores occidentales. Los gigantes tecnológicos aumentan la seguridad en la nube bajo la presión de Washington. y probar diferentes tecnologías de inteligencia artificial a medida que surgen, en un intento de comprender el valor potencial para sus operaciones y los controles de seguridad que pueden necesitar eludir”, escribió Microsoft en un resumen de sus hallazgos. Microsoft dijo que había cortado el acceso de los grupos a herramientas basadas en ChatGPT de OpenAI. Dijo que notificaría a los fabricantes de otras herramientas que viera en uso y continuaría compartiendo qué grupos estaban usando qué técnicas. La compañía dijo que no había encontrado ningún ataque importante impulsado por IA, pero había visto investigaciones en etapas anteriores sobre fallas de seguridad específicas. , defensas y objetivos potenciales. Sherrod DeGrippo, director de estrategia de inteligencia de amenazas de Microsoft, reconoció que la compañía no necesariamente vería todo lo que se derivaba de esa investigación y que cortar algunas cuentas no disuadiría a los atacantes de crear otras nuevas. “Microsoft no quiere para facilitar que los actores amenazadores perpetren campañas contra cualquier persona”, dijo. «Ese es nuestro papel: atacarlos a medida que evolucionan». Entre los grupos de piratería patrocinados por el Estado identificados en el informe: un importante equipo ruso asociado con la agencia de inteligencia militar GRU utilizó IA para investigar tecnologías de satélites y radares que podrían ser relevantes para los sistemas convencionales. guerra en Ucrania. Los piratas informáticos norcoreanos utilizaron la IA para investigar a expertos sobre las capacidades militares del país y aprender más sobre las vulnerabilidades informadas públicamente, incluida una de 2022 en las propias herramientas de soporte de Microsoft. Un equipo del Cuerpo de la Guardia Revolucionaria Islámica en Irán buscó ayuda de la IA para encontrar nuevas formas de engañar a las personas electrónicamente y desarrollar formas de evitar la detección. Un grupo del gobierno chino exploró el uso de IA para ayudar a crear programas y contenidos, mientras que otro grupo chino “está evaluando la efectividad de los LLM para obtener información sobre temas potencialmente sensibles, personas de alto perfil, geopolítica regional, influencia estadounidense y asuntos internos”, escribió Microsoft.

Source link