¿Quieres ideas más inteligentes en tu bandeja de entrada? Regístrese en nuestros boletines semanales para obtener solo lo que importa a los líderes de IA, datos y seguridad empresariales. Suscríbete ahora la entrevista exclusiva de VentureBeat con Sam Evans, CISO de Clearwater Analytics, revela por qué los navegadores empresariales se están convirtiendo rápidamente en la defensa de primera línea contra Shadow AI en sus muchas formas. Evans enfrentó un desafío crítico en octubre de 2023. Partido ante la Junta de Clearwater Analytics, tuvo que enfrentar las preocupaciones de que los empleados pudieran exponer inadvertidamente datos que podrían comprometer los activos de $ 8.8 billones de $ 8.8 de la empresa bajo administración. «Lo peor posible sería uno de nuestros empleados que toman datos de clientes y los ponen en un motor de IA que no administramos», dijo Evans a VentureBeat. «El empleado que no conoce a ninguna o intenta resolver un problema para un cliente … que los datos ayudan a capacitar al modelo». Aquí está nuestra conversación con Evans, editada para la longitud y la claridad VentureBeat: ¿Cómo se ve a la IA moldeando la ciberseguridad hoy? Evans: Los ataques se han vuelto significativamente más sofisticados. Si lo considera desde la perspectiva de un mal actor, los correos electrónicos e intentos de phishing que recibimos se han vuelto mucho más complejos. Sin embargo, la IA también posee capacidades de respuesta. Me gusta explicarlo a nuestro tablero, como el mejor juego de gato y ratón. A medida que los malos actores comienzan a usar la IA para avanzar en el phishing, o tal vez acelerar el tiempo que tarda los exploits para que surjan después de que se anuncien vulnerabilidades, existe el lado opuesto de los profesionales de seguridad que usan IA para ayudar a avanzar en cómo respondemos. VentureBeat: ¿Cómo está AI ayudando a sus capacidades defensivas? Evans: Hemos comenzado a integrar la IA en nuestros libros de jugadas de seguridad. Al hacerlo, nuestros analistas de seguridad ahora pasan menos tiempo buscando y caza. La IA participa en el producto del Centro de Operaciones de Seguridad (SOC), realiza su análisis inicial de clasificación y dice: «Basado en cosas anteriores que hemos visto y cosas en mi modelo, aquí es donde me gustaría guiarte». En el lado defensivo, realmente estamos empezando a ver a Ai entrar en juego. CrowdStrike, Sentinel One, Microsoft Defender, los productos tradicionales de detección y respuesta extendida (EDR) estaban usando algo de aprendizaje automático, y llegarían a una probabilidad de que tal vez el 85% podría ser una amenaza, pero no estamos realmente seguros. Sin embargo, la IA enriquece la capacidad del motor EDR para alcanzar una mayor tasa de probabilidad de identificar una amenaza. VentureBeat: ¿Qué te mantiene despierto por la noche cuando se trata de IA y ciberseguridad? EVANS: Lo que me preocupa bastante es los profundos. Usted lee varias historias sobre personas que usan Deepfakes para hacerse pasar por un CEO para iniciar transferencias de alambre. Esos son preocupantes porque se ven muy, muy reales. ¿Pero la mayor preocupación? Lo peor posible sería uno de nuestros empleados que toman datos de clientes y los colocan en un motor de inteligencia artificial que no administramos, y luego se convierte en datos que ayudan a capacitar al modelo. VentureBeat: ¿Cómo explicaste este riesgo de IA de sombra para tu tablero? Evans: Recuerdo cuando una de las primeras reuniones de la junta en las que estuve, me preguntaron: «Entonces, ¿qué piensas sobre Chatgpt?» Le dije: «Bueno, es una herramienta de productividad increíble. Sin embargo, no sé cómo podríamos dejar que nuestros empleados lo usen, porque mi mayor temor es que alguien copie los datos de los clientes en ella, o nuestro código fuente, que es nuestra propiedad intelectual». Pero no solo llegué al tablero con mis inquietudes y problemas. Le dije: «Bueno, aquí está mi solución. No quiero evitar que la gente sea productiva, pero también quiero protegerla». Cuando vine al tablero y expliqué cómo funcionan estos navegadores empresariales, dicen: «Está bien, eso tiene mucho sentido, pero ¿realmente puedes hacerlo?» VentureBeat: guíenme a través de su proceso de evaluación e implementación para Island. EVANS: Después de esa reunión de la junta de octubre de 2023, comenzamos un proceso de diligencia debida bastante largo. Echamos un vistazo a algunos de los principales proveedores en el espacio del navegador empresarial. Compartiré contigo en última instancia por qué fuimos con una isla. Necesitábamos poder controlar los navegadores que las personas usan en sus puntos finales. No hace ningún bien implementar un navegador Enterprise cuando alguien puede ir a descargar Opera o «Frank’s Browser of the Month» y usarlo, y simplemente evita todos los controles de la isla. La otra razón por la que fuimos con Island se debió realmente a la velocidad del despliegue. Recuerdo haber estado en una llamada con los vendedores de la isla, y dicen: «Creemos que podemos implementar esto en su empresa en cuestión de semanas». Estoy como, «Oh, eso es BS». VentureBeat: ¿Pero se entregaron? Evans: ¡Lo tomaron como un desafío personal! Comenzamos nuestro despliegue de la isla en abril de 2024 con unas 200 personas. Primero fuimos a la ruta de extensión; La extensión de la isla en Chrome y Edge. No fue hasta julio cuando la junta preguntó: «¿Cómo te va?» Y dije: «¿Qué tal si te muestro?» Levanté una captura de pantalla porque, ya sabes, las demostraciones de la ley de Murphy siempre fallan. Así que les mostré capturas de pantalla: «Aquí estoy en Chatgpt. Traté de pegar algo. Obtuve el aviso: ‘La política de la isla te impide hacer esto'». Están como, «¡Guau, esto es fantástico! Pero la gente aún puede utilizar la herramienta para hacer buenas preguntas?» Le dije: «Sí, absolutamente. Simplemente no pueden poner datos en ello». VentureBeat: ¿Sientes que la isla te asegura y reduce el riesgo de AI de sombra? Evans: Definitivamente nos ha ayudado a manejar la IA de Shadow. Ninguna herramienta de seguridad es 100% perfecta. Habiendo desplegado la isla, definitivamente dormimos mucho más fácilmente. Podemos sentirnos razonablemente cómodos que si un empleado va a una instancia de IA que no tenemos licencia, puede usarlo, pero no puede pegar datos o cargar archivos. También nos ha ayudado a identificar dónde tenemos brechas. Los empleados encontraron esta gran cosa del widget de IA, vienen al equipo de seguridad: «Oye, mira, mira esto». Y luego podemos volver a nuestros equipos de desarrollo de productos y descubrir cómo ayudamos a habilitar esto, no solo para nuestros empleados, sino para nuestros clientes. VentureBeat: ¿Cómo se defiende contra DeepFakes? EVANS: Esa es difícil para envolverte los brazos. Tenemos un excelente programa de concientización sobre la seguridad. Pedimos a los empleados que usen el sentido común. ¿Realmente crees que Sandeep Sahai, nuestro CEO, te va a llamar y pedirte que le compre tarjetas de regalo de Apple? Hemos configurado muchos controles y equilibrios, como el sistema de verificación de amigos de dos personas. No hay una solución tecnológica para algo así. Es un problema humano que hemos tenido que implementar una solución humana. VentureBeat: ¿Qué consejo le darías a otros CISO que enfrentan Shadow AI? Evans: No se trata solo de bloquear, se trata de habilitar. Trae soluciones, no solo problemas. Cuando llegué al tablero, no solo destacé los riesgos; Propuse una solución que equilibró la seguridad con la productividad. Bienvenido a las ideas de Evans de la carrera armamentista de la IA Shadow AI revelan cuán rápido Shadow Ai se ha convertido en una amenaza existencial para cada negocio intensivo de datos. «Vemos 50 nuevas aplicaciones de IA al día, y ya hemos catalogado a más de 12,000», dijo Itamar Golan, CEO de Pront Security, a VentureBeat, cuantificando lo que los equipos de seguridad están llamando a su peor pesadilla desde el ransomware. El ataque de uso no autorizado de IA y aplicaciones ha provocado una intensa competencia entre los proveedores de seguridad. «La mayoría de las herramientas de gestión tradicionales carecen de visibilidad integral en las aplicaciones de IA», Vineet Arora, CTO de Winwire, explicó a VentureBeat, identificando exactamente por qué la IA de la sombra florece como arquitecturas de seguridad heredadas son ciegas. El ecosistema del proveedor se ha cristalizado en cuatro campos de batalla distintos, cada uno con sus armas y debilidades. Los navegadores empresariales lideran la carga. El principal de ellos es Island, que recientemente recaudó una ronda de financiación de $ 250 millones, un voto de confianza de la comunidad de inversores. Mientras que la isla apuesta por la visibilidad previa a la cifrado, Google Chrome Enterprise ataca a Shadow AI de manera diferente, armando el dominio de su mercado y la pila de seguridad de Google. Chrome Enterprise Premium ofrece controles de prevención de pérdidas de datos (DLP) que bloquean los flujos de datos a ChatGPT y otras herramientas de IA, evitan la contaminación de perfil cruzado y hacen cumplir la escaneo de contenido en tiempo real. La plataforma expone los patrones de uso de la IA de la sombra mientras bloquea las pastas accidentales y la exfiltración deliberada. Las asociaciones estratégicas con ZScaler y Cisco Secure Access amplifican el alcance de Chrome para crear un ecosistema donde los principios de confianza cero se extienden directamente a las interacciones de IA. Las plataformas SASE/SSE entregan defensa a escala empresarial. Netskope y Zscaler aportan escala a la defensa de la IA de Shadow a través de sus arquitecturas de servicio de acceso de seguridad nativo de nube (SASE). Ambas plataformas procesan miles de millones de transacciones diariamente en infraestructuras globales, con Netskope específicamente que anuncia su capacidad para monitorear el uso de aplicaciones de IA en las empresas. Su limitación clave: cuando el 73.8% del uso de CHATGPT en el lugar de trabajo ocurre a través de cuentas personales, el cifrado SSL/TLS evita que las plataformas inspeccionen contenido, lo que los obliga a confiar en patrones de tráfico y metadatos, lo que lleva a lagunas de visibilidad donde la IA de la sombra opera sin detectar. Los proveedores tradicionales de DLP luchan por adaptarse. Los proveedores heredados Forcepoint y Microsoft Purview tienen un fuerte legado para comerciar cuando se trata de luchar contra Shadow AI. Forcepoint reclama más de 1.700 clasificadores de más, mientras que el alcance aprovecha las tareas de AI a triaje. Pero aquí está el problema: están modificando las arquitecturas del siglo XX para las amenazas del siglo XXI. Estas plataformas se destacan en las casillas de verificación de cumplimiento y las plantillas de políticas, pero no se mantienen al día con el ritmo más rápido de AI. Mientras Daren Goeson, el vicepresidente sénior de gestión de productos de Ivanti para UEM le dijo a VentureBeat: «Las herramientas de seguridad de punto final con IA pueden analizar grandes cantidades de datos para detectar anomalías y predecir las amenazas potenciales más rápido y con mayor precisión que cualquier analista humano». El DLP tradicional funciona a velocidad de auditoría. Shadow Ai se mueve a velocidad de la máquina. Las soluciones especializadas llenan los vacíos críticos. La innovación prospera en los nichos que ignoran los proveedores heredados. Un ejemplo son las neuronas Ivanti, que ofrece un descubrimiento integral de dispositivos a través de su plataforma UEM, exponiendo la IA de la sombra escondida en puntos finales que pierden las herramientas tradicionales. Mike Riemer, el CISO de Ivanti’s Field, ve la imagen más grande: «Los profesionales de la seguridad aprovecharán de manera efectiva las capacidades de la generación AI para analizar grandes cantidades de datos recopilados de diversos sistemas». El anochecer, por su parte, se dirige a los equipos de desarrolladores con modelos de transformadores, reclamando una precisión de detección de 2x para herramientas de IA basadas en API. Comparación de las soluciones de defensa de la IA Shadow AI VendortyPypekey Fuerza SlimitationsBest Forcheck Point HarmonyBrowser ExtensionVerages Infraestructura existente Las medificadoras de infraestructura existentes a ExtensionCheck Point ForceCePointTraditional DLP1,700+ clasificadores, el dominio de la organización regulatoria de la arquitectura regulada de la arquitectura regulada con el control de la industria, el dominio de la industria, el dominio de la organización regulada, la integración, el dominio de la organización regulada, el dominio de la industria, el dominio de la organización regulada. Las organizaciones de espacio de trabajo IslandSlanderPrise BrowserPre-Cryption Visibilidad, Latency Cero, una implementación rápida de costo más alto por usuarios de usuarios con DataSivanti NeuronsUem Platform Platform Comprehensive Discoverynot Browser Specificset Management FocusMicrosoftMicrosoft SurviewDLP Plataforma Microsoft Microsoft Microsoft Microsof Enterprisesnetskopesase/SSE PlataformaComprehensive cobertura, 370+ aplicaciones AI MonitoringPost-encriptación Complejidad ALARGO DISTRISICIÓN NIGHTALLAILEAI NATIVO DLP2X Detección Precisión, Transformer ModelsPi-Enfirador Centrado Cyber ​​CyberSerbrewserer de seguridad Cyber Transacciones diarias SMBSZSCALERSASE/SSEPLATULA536B, ORGUSACIONES DE CLOUD CERRO-CLURIO VERDADO ANÁLISIS VENTURACEAT ¿Qué está impulsando al mercado a moverse tan rápido? El análisis de VentureBeat encontró 74,500 aplicaciones de IA Shadow de más de 74,500 aplicaciones de IA de sombra activamente implementadas solo en las principales empresas consultoras, y eso está creciendo un 5% mensual. A mediados de 2026, ese número podría alcanzar 160,000. Cada uno representa una posible violación de datos, violación de cumplimiento o fuga de inteligencia competitiva. Las recetas de Arora recortan a través de la exageración del proveedor: «Las organizaciones deben definir estrategias con una seguridad sólida al tiempo que permiten a los empleados usar tecnologías de IA de manera efectiva. Las prohibiciones totales a menudo impulsan el uso de IA bajo tierra, lo que solo magnifica los riesgos». Insights diarias sobre casos de uso de negocios con VB diariamente Si desea impresionar a su jefe, VB Daily lo tiene cubierto. Le damos la cuenta interior de lo que las empresas están haciendo con la IA generativa, desde cambios regulatorios hasta implementaciones prácticas, por lo que puede compartir ideas para el ROI máximo. Lea nuestra Política de privacidad Gracias por suscribirse. Mira más boletines de VB aquí. Ocurrió un error.