A medida que continuamos evolucionando el campo de la IA, una nueva rama que se ha acelerado recientemente es la IA agente. Las definiciones múltiples están circulando, pero esencialmente, la IA de agente involucra uno o más sistemas de IA que trabajan juntos para lograr una tarea utilizando herramientas de manera no supervisada. Un ejemplo básico de esto es establecer a un agente de IA con la búsqueda de eventos de entretenimiento a los que podría asistir durante el verano y enviar un correo electrónico a las opciones a mi familia. La IA Agentic requiere algunos bloques de construcción, y aunque hay muchas variantes y opiniones técnicas sobre cómo construir, la implementación básica generalmente incluye un razonamiento LLM (modelo de lenguaje grande), como las que están detrás de ChatGPT, Claude o Gemini, que puede invocar herramientas, como una aplicación o función para realizar una tarea y retorno de resultados. Una herramienta puede ser tan simple como una función que devuelve el clima, o tan compleja como una herramienta de mando de navegador que puede navegar a través de sitios web. Si bien esta tecnología tiene mucho potencial para aumentar la productividad humana, también viene con un conjunto de desafíos, muchos de los cuales no han sido considerados por completo por los tecnólogos que trabajan en tales sistemas. En la industria de la ciberseguridad, uno de los principios centrales por los que todos vivimos es implementar la «seguridad por diseño», en lugar de que la seguridad sea una ocurrencia tardía. Es bajo este principio que exploremos las implicaciones de seguridad (y las amenazas) en torno a la IA agente, con el objetivo de crear conciencia tanto a los consumidores como a los creadores: a partir de hoy, la IA agente tiene que cumplir con una barra alta para ser adoptada por completo en nuestra vida diaria. Piense en la precisión requerida para la facturación o las tareas relacionadas con la salud, o el nivel de confianza que los clientes necesitarían tener que delegar tareas confidenciales que puedan tener consecuencias financieras o legales. Sin embargo, los malos actores no juegan con las mismas reglas y no requieren ninguna «barra alta» para aprovechar esta tecnología para comprometer a las víctimas. Por ejemplo, un mal actor que usa AI agente para automatizar el proceso de investigación (ingeniería social) y apuntar a las víctimas con correos electrónicos de phishing está satisfecho con un sistema imperfecto que solo es confiable el 60% del tiempo, porque eso es mejor que intentar hacerlo manualmente, y las consecuencias asociadas con «errores de AI» en este escenario son mínimos para los cibercriminales. En otro ejemplo reciente, Claude AI fue explotado para orquestar una campaña que creó y administró personajes falsos (bots) en las plataformas de redes sociales, interactuando automáticamente con usuarios cuidadosamente seleccionados para manipular las narrativas políticas. En consecuencia, una de las amenazas que probablemente sean alimentadas por agentes maliciosos de IA son las estafas, independientemente de que estas se entreguen por texto, correo electrónico o video de Deepfake. Como se ve en las recientes noticias, crear un video convincente de Deepfake, escribir un correo electrónico de phishing o aprovechar la última tendencia para estafar a las personas con mensajes de peaje falsos es, para los malos actores, más fácil que nunca gracias a una gran cantidad de ofertas y avances de IA. En este sentido, los agentes de IA tienen el potencial de continuar aumentando el ROI (retorno de la inversión) para los ciberdelincuentes, al automatizar aspectos de la campaña de estafas que han sido manuales hasta ahora, como adaptar mensajes para dirigirse a individuos o crear contenido más convincente a escala. La IA agente puede ser abusada o explotada por los cibercriminales, incluso cuando el agente de IA está en manos de un usuario legítimo. La IA agente puede ser bastante vulnerable si hay puntos de inyección. Por ejemplo, los agentes de IA pueden comunicarse y tomar medidas interactuando de manera estandarizada utilizando lo que se conoce como MCP (protocolo de contexto modelo). El MCP actúa como una especie de repositorio donde un mal actor podría alojar una herramienta con un doble propósito. Por ejemplo, un actor de amenaza puede ofrecer una herramienta/integración a través de MCP que en la superficie ayuda a una IA a navegar por la Web, pero detrás de escena, exfiltra los datos/argumentos dados por la IA. O por el mismo token, una lectura de IA de agente, digamos los correos electrónicos para resumirlos, podría verse comprometido por un «correo electrónico malicioso» cuidadosamente elaborado (conocido como inyección indirecta de inmediato) enviado por el CyberCriminal para redirigir el proceso de pensamiento de dicha IA, desviándolo de la tarea original (resumiendo los correos electrónicos) y que se realiza a Rogue para realizar una tarea orquesta en el acto de pensamiento, como el Información de los Correos de Correos. La IA de agente también introduce vulnerabilidades a través de posibilidades inherentemente grandes de error. Por ejemplo, un agente de IA encargado de encontrar un buen negocio para comprar datos de marketing podría terminar en una madriguera de conejo comprando datos ilegales de una base de datos violada en la web oscura, a pesar de que el usuario legítimo nunca tuvo la intención. Si bien esto no es desencadenado por un mal actor, todavía es peligroso dada la gran cantidad de posibilidades sobre cómo un agente de IA puede comportarse o descarrilar, dada una mala elección de la descripción de la tarea. Con la proliferación de la IA agente, veremos ambas oportunidades para mejorar nuestra vida, así como las nuevas amenazas de los malos actores que explotan la misma tecnología para su ganancia, ya sea interceptando y envenenando a los usuarios legítimos de los agentes de IA, o utilizando IA agente para perpetuar ataques. Con esto en mente, es más importante que nunca permanecer atento, ejercer precaución y aprovechar las soluciones integrales de ciberseguridad para vivir de manera segura en nuestro mundo digital. \ x3cimg height = «1» width = «1» style = «Display: None» src = «https://www.facebook.com/tr?id=766537420057144&ev=pageview&noScript=1″/> \ x3c/noscript> ‘);