Aproximadamente uno de cada 12 empleados británicos y estadounidenses usan herramientas de IA generativa china (Genai), exponiendo sus organizaciones a riesgos de seguridad, privacidad y cumplimiento, según la seguridad armónica. El proveedor de seguridad llevó a cabo un análisis de 30 días en 14,000 usuarios finales con sede en EE. UU. Y el Reino Unido para comprender mejor los riesgos de utilizar herramientas Genai chinas como Deepseek, Moonshot Kimi, Manus, Baidu Chat y Qwen. Aunque estas herramientas ofrecen capacidades poderosas, generalmente de forma gratuita, la mayoría de los líderes de seguridad occidentales las consideran demasiado arriesgadas. Esto se debe a que cualquier datos compartidos con el modelo se almacenará en servidores en China, donde las autoridades podrían acceder a él. La mayoría de los proveedores de Genai chinos también son vagos sobre cómo podrían usar estos datos, creando más pasivos legales. Lea más sobre Genai: el estudio chino de Genai Startup Deepseek Sparks Global Privacy debate a Harmonic Security descubrió que los 1059 usuarios que usaron herramientas de Genai chinas cargaron 17 MB de contenido. El proveedor afirmó haber detectado 535 incidentes de exposición a datos confidenciales, la mayoría de los cuales ocurrieron a través de Deepseek, lo que representa el 85% del total. La mayoría del contenido expuesto estaba relacionado con el software: 33% de código involucrado, lógica patentada o credenciales de acceso. Otras categorías confidenciales incluyeron documentos de M&A (18%), información de identificación personal (18%) y datos financieros (14%). «Todos los datos presentados a estas plataformas deben considerarse propiedad del Partido Comunista Chino dada una falta total de transparencia en torno a la retención de datos, la reutilización de insumos y las políticas de capacitación de modelos, exponiendo a las organizaciones a los pasivos legales y de cumplimiento potencialmente graves», advirtió Alastair Paterson, CEO de Seguridad Armónica. «El bloqueo solo rara vez es efectivo y a menudo desalineado con las prioridades comerciales. Incluso en las empresas dispuestas a adoptar una postura de línea dura, los usuarios con frecuencia eluden los controles. Un enfoque más efectivo es centrarse en la educación y capacitar a los empleados en los riesgos de utilizar herramientas Genai no autorizadas, especialmente plataformas conhoradas chinas». Las organizaciones también deben proporcionar alternativas más seguras y aplicar políticas que eviten que se carguen datos confidenciales, agregó. Los investigadores también han encontrado que Deepseek es vulnerable a la jailbreak, alucinaciones, generando código inseguro, y que su aplicación Android está plagada de problemas de seguridad. Además, la empresa filtró accidentalmente una base de datos en línea en enero que contenía información confidencial, incluidos los historiales de chat.