Las organizaciones están preocupadas por las amenazas de seguridad derivadas del uso de IA por parte de los desarrolladores, según un nuevo informe de Checkmarx. El proveedor de seguridad de aplicaciones nativas de la nube descubrió que el 15 % de las organizaciones prohíbe explícitamente el uso de herramientas de IA para la generación de código, sin embargo, el 99 % dice que las herramientas de generación de código de IA se están utilizando de todos modos. Mientras tanto, solo el 29 % de las organizaciones han establecido alguna forma de gobernanza para el uso de IA generativa. Lea ahora: El 70 % de las empresas priorizan la innovación sobre la seguridad en proyectos de IA generativa Estos hallazgos son parte del informe Siete pasos para usar de forma segura la IA generativa en la seguridad de las aplicaciones de la empresa, publicado el 25 de julio de 2024. El informe incluyó los hallazgos de 900 CISO y profesionales de seguridad de aplicaciones en empresas de América del Norte, Europa y Asia-Pacífico con ingresos anuales de $ 750 millones o más. Los CISOs se enfrentan a las estrategias de IA generativa El informe descubrió que el 70% de los profesionales de seguridad afirma que no existe una estrategia centralizada para la IA generativa, y que las decisiones de compra se toman de forma ad hoc por departamentos individuales. La empresa señaló que los CISOs buscan crear los tipos adecuados de gobernanza para permitir que sus equipos de desarrollo de aplicaciones utilicen herramientas de codificación de IA. Según Checkmarx, el 47% de los encuestados indicó interés en permitir que la IA realice cambios no supervisados ​​en el código. Sin embargo, la IA generativa actualmente no puede seguir prácticas de codificación seguras ni producir código verdaderamente seguro, lo que motiva a algunos equipos de seguridad a considerar herramientas de seguridad impulsadas por IA para ayudar a gestionar la proliferación del código generado por IA de los equipos de desarrollo. Muchos están preocupados por los ataques GenAI como las alucinaciones de IA y el 80% está preocupado por las amenazas de seguridad derivadas de los desarrolladores que utilizan IA. «Los CISOs empresariales están lidiando con la necesidad de comprender y gestionar los nuevos riesgos en torno a la IA generativa sin sofocar la innovación y convertirse en obstáculos dentro de sus organizaciones», dijo Sandeep Johri, CEO de Checkmarx. “GenAI puede ayudar a los equipos de desarrollo presionados por el tiempo a escalar para producir más código más rápidamente, pero los problemas emergentes, como las alucinaciones de IA, marcan el comienzo de una nueva era de riesgo que puede ser difícil de cuantificar”.