Se ha observado que los cibercriminales aprovechan el creciente uso de plataformas de IA generativa (GenAI) vendiendo credenciales de cuentas robadas en mercados clandestinos. Según los hallazgos recientes de la Unidad de Respuesta a Amenazas (TRU) de eSentire, cada día se venden aproximadamente 400 credenciales de cuentas GenAI en plataformas de la web oscura, incluidas credenciales para GPT, Quillbot, Notion, HuggingFace y Replit. Estas credenciales a menudo se obtienen de las computadoras de los usuarios corporativos infectadas con malware infostealer, que recopila todos los datos ingresados ​​en el navegador de Internet de un usuario. Un mercado clandestino notable, anteriormente conocido como LLM Paradise, se especializaba en la venta de claves API GPT-4 y Claude robadas. A pesar de su reciente cierre, puso de relieve la magnitud del problema, ya que las claves robadas se anunciaban por tan solo $ 15. El cierre de LLM Paradise no detuvo la tendencia: los cibercriminales continúan explotando las credenciales GenAI robadas para crear campañas de phishing, desarrollar malware y producir chatbots maliciosos. El impacto potencial en los datos corporativos es significativo, advirtió eSentire. Las credenciales GenAI robadas pueden brindar acceso a información confidencial de la empresa, incluidos datos de clientes, registros financieros, propiedad intelectual e información personal identificable (PII) de los empleados. Además, los atacantes que tienen como objetivo a los proveedores de la plataforma GenAI pueden acceder a una gran cantidad de datos de sus suscriptores corporativos, lo que agrava el panorama de amenazas. Lea más sobre IA y ciberseguridad: el libro electrónico de RSA detalla cómo la IA transformará la ciberseguridad en 2024 eSentire también identificó varias amenazas críticas asociadas con GenAI en su informe. Estas incluyen el secuestro de LLM, el abuso de credenciales robadas para delitos cibernéticos y ataques de inyección rápida para eludir las barandillas de la plataforma. El informe también señaló las prácticas agresivas de recopilación de datos y los riesgos de la cadena de suministro como preocupaciones críticas. Un ejemplo citado fue OpenAI, que sufrió una violación en 2023, lo que subraya las vulnerabilidades inherentes a estas plataformas. Las credenciales de OpenAI son las más comúnmente robadas y vendidas, con un promedio de 200 cuentas listadas diariamente. Para mitigar estos riesgos, las empresas deben implementar medidas de seguridad sólidas, como monitoreo de uso, métodos avanzados de autenticación multifactor (MFA) y servicios de monitoreo de la web oscura.