El año pasado, los sistemas de mensajería interna de OpenAI sufrieron una vulneración, según los informes, y los actores de amenazas robaron detalles sobre el diseño de las tecnologías de inteligencia artificial de la empresa. Si bien la empresa guardó silencio sobre la vulneración, fue lo suficientemente grave como para generar preocupaciones sobre la seguridad nacional de Estados Unidos, según el New York Times. La vulneración aparentemente tuvo lugar a principios del año pasado en un foro en línea donde el personal discutía los productos y tecnologías de la empresa. Sin embargo, no se cree que se hayan expuesto datos de capacitación, algoritmos, resultados o datos de clientes. La empresa reveló la vulneración al personal y a la junta en abril, pero no al público con el argumento de que no se robaron datos de clientes o socios, y el pirata informático parecía ser una persona sin vínculos con el gobierno. Sin embargo, los empleados, incluido Leopold Aschenbrenner, ex gerente de programas técnicos de OpenAI, expresaron su preocupación por la postura de seguridad de la empresa. Dijo que esto tiene implicaciones para la seguridad nacional, ya que los sistemas de mensajería podrían haber sido fácilmente hackeados por un estado nación como China. «Si bien OpenAI aún no ha confirmado los detalles del supuesto incidente, existe una gran posibilidad de que el incidente haya ocurrido realmente y no sea el único», dijo el Dr. Ilia Kolochenko, socio y líder de la práctica de ciberseguridad en Platt Law LLP y director ejecutivo de ImmuniWeb. Reciba nuestras últimas noticias, actualizaciones de la industria, recursos destacados y más. «La carrera mundial de la IA se ha convertido en una cuestión de seguridad nacional para muchos países, por lo tanto, los grupos de ciberdelincuencia respaldados por el estado y los mercenarios están apuntando agresivamente a los proveedores de IA, desde nuevas empresas talentosas hasta gigantes tecnológicos como Google u OpenAI». Los piratas informáticos, dijo, centran sus esfuerzos principalmente en el robo de propiedad intelectual valiosa, incluida la investigación y el conocimiento tecnológico, los grandes modelos de lenguaje (LLM), las fuentes de datos de capacitación y la información comercial, como los clientes de una empresa de IA y el uso de la IA en diferentes industrias. «Los actores de ciberamenazas más sofisticados también pueden implantar puertas traseras sigilosas para controlar continuamente las empresas de IA violadas y poder interrumpir repentinamente o incluso cerrar sus operaciones, de manera similar a las campañas de piratería a gran escala dirigidas a la infraestructura nacional crítica (CNI) en los países occidentales recientemente», agregó. A principios de este año, OpenAI informó que había cancelado cuentas vinculadas a cinco operaciones de influencia encubiertas. Estas campañas estaban utilizando los modelos de la empresa para manipular la opinión pública o influir en los resultados políticos. Se cree que dos de ellos se originaron en Rusia, uno en China, uno en Irán y uno en Israel. OpenAI también estableció recientemente un Comité de Seguridad y Protección para manejar la gestión de riesgos para sus proyectos y operaciones de IA. Se espera que el comité presente sus hallazgos y recomendaciones a la junta en septiembre.