Just_Super/Getty ImagesLa inteligencia artificial está transformando los negocios, desde la automatización de tareas rutinarias y la optimización de las cadenas de suministro hasta el impulso de modelos financieros sofisticados y la personalización de las experiencias de los clientes a gran escala. Está permitiendo a las empresas operar con una eficiencia y una visión sin precedentes. La IA también está ayudando a los cibercriminales. Los ataques cibernéticos tradicionalmente se centran en explotar las vulnerabilidades técnicas de los sistemas y las redes. La IA generativa evolucionó rápidamente y aceleró el panorama de las amenazas cibernéticas. Hoy en día, los mejores actores maliciosos integraron rápidamente la información errónea y la desinformación generadas por IA en sus estrategias de ataque, lo que dejó a las organizaciones vulnerables a un amplio espectro de ataques. Además: la mayoría de las personas se preocupan por las deepfakes y sobreestiman su capacidad para detectarlasEn enero, la información errónea y la desinformación habilitadas por IA encabezaron el informe anual de riesgos globales del Foro Económico Mundial, enfatizando su potencial para desestabilizar la industria y socavar las instituciones. Las campañas de desinformación pueden desestabilizar las organizaciones, manipular los mercados y socavar la confianza en las instituciones públicas. Por ejemplo, un video deepfake de un ejecutivo de una empresa podría engañar fácilmente a los empleados, hundir el precio de las acciones o filtrar datos confidenciales. O los atacantes podrían lanzar una campaña coordinada de publicaciones en las redes sociales escritas por IA para difundir información falsa sobre una empresa, lo que causaría daños financieros, de reputación y de otro tipo. Al aprovechar los grandes modelos de lenguaje, las falsificaciones profundas y las redes de bots, los actores maliciosos ahora pueden crear narrativas falsas persuasivas que explotan nuestros sesgos y erosionan nuestra confianza, preparándonos para el ciberataque real que vendrá o amplificando un ciberataque anterior. Esta combinación de desinformación y desinformación impulsada por IA junto con técnicas de piratería tradicionales ha dado lugar a una nueva clase de amenaza cibernética: el ataque narrativo. Estos ataques multifacéticos utilizan historias fabricadas como arma para manipular nuestras percepciones, influir en nuestro comportamiento y, en última instancia, magnificar el impacto de la intrusión técnica, dejando a las organizaciones y a los individuos vulnerables. Además: Los fallos de seguridad en la nube de las empresas son «preocupantes», a medida que se aceleran las amenazas de la IA Hablé con Jack Rice, abogado defensor y ex oficial de casos de la CIA, sobre los peligros de la desinformación y la información errónea y algunas estrategias de defensa para los líderes empresariales y de organizaciones. «La desinformación y la información errónea son extremadamente eficaces para manipular las creencias y los comportamientos de las personas porque las personas gravitan naturalmente hacia la información que confirma sus puntos de vista existentes», dijo Rice. «El objetivo de quienes crean y difunden información falsa es sembrar división en la sociedad para ganar influencia y control». Los ciberataques amplificados por desinformación se desarrollan en fases clave Recopilación de información: el ataque comienza con un reconocimiento exhaustivo de la organización o el sector objetivo. Los ciberdelincuentes identifican vulnerabilidades clave, puntos críticos y temores que pueden explotar. Luego, elaboran cuidadosamente una narrativa basada en la desinformación diseñada para manipular las emociones, sembrar confusión y erosionar la confianza. Por ejemplo, los atacantes pueden crear artículos de noticias falsos o publicaciones en las redes sociales que afirmen que una empresa ha sufrido una filtración masiva de datos, incluso si dicha filtración no ha ocurrido. Sembrar la narrativa: una vez creada la narrativa falsa, los atacantes la siembran a través de vectores creíbles como las redes sociales, los blogs o los medios de comunicación. Pueden usar redes de bots y cuentas falsas para amplificar la propagación de la desinformación, haciéndola parecer más legítima y generalizada. Los foros de hackers en la web oscura permiten una difusión coordinada para lograr el máximo impacto. Esta fase es crucial para preparar el escenario para el ciberataque real. Además: Los mejores servicios de VPN: probados y revisados ​​por expertos Lanzar el ataque técnico: los ciberdelincuentes lanzan su ataque técnico con el objetivo debilitado por la desinformación. Esto puede implicar la violación de datos, la implementación de ransomware o el robo de fondos. La campaña de desinformación previa a menudo abre nuevos vectores de ataque, como correos electrónicos de phishing, que explotan el miedo y la incertidumbre creados por la narrativa falsa. Las víctimas tienen más probabilidades de caer en estos ataques a raíz de la desinformación. Amplificación del daño: incluso después de que finaliza el ataque técnico, los ciberdelincuentes siguen difundiendo desinformación para magnificar el daño y sembrar más confusión. Pueden afirmar que el ataque fue más grave de lo que fue o que la organización está encubriendo el alcance del daño. Esta campaña de desinformación en curso prolonga el daño a la reputación y erosiona la confianza de los clientes, incluso si la empresa ha logrado restaurar sus sistemas. Hay varios ejemplos notables de ataques cibernéticos amplificados por la desinformación. En el ataque de ransomware de 2021 al proveedor de carne JBS, los atacantes exigieron un rescate de 11 millones de dólares y amenazaron con liberar datos confidenciales robados. Esta estrategia de doble amenaza introdujo una capa de miedo y urgencia, exacerbando la crisis e intensificando la presión sobre la empresa para que cumpliera con las demandas de los atacantes. La rápida difusión de información errónea y desinformación, que sembró el pánico entre las partes interesadas y el público, demostró cómo la manipulación narrativa puede amplificar el impacto de un ciberataque. Una campaña de phishing de 2022 dirigida a organizaciones benéficas del Reino Unido empleó narrativas convincentes adaptadas a cada objetivo, lo que dio lugar a una tasa de éxito inusualmente alta. Los actores maliciosos utilizaron desinformación a medida para mejorar sus intentos de phishing, haciéndolos más creíbles. Esta campaña demostró cómo las narrativas falsas cuidadosamente elaboradas podían explotar las vulnerabilidades humanas, aumentando la probabilidad de infracciones exitosas e ilustrando aún más el mayor impacto de la combinación de ciberataques con desinformación estratégica. Estos ejemplos subrayan la necesidad crítica de estrategias de defensa sólidas que aborden las dimensiones técnicas y narrativas de las ciberamenazas modernas. Además: 7 reglas de contraseñas que se deben seguir en 2024, según los expertos en seguridad «Si bien la desinformación puede parecer un fenómeno nuevo, en realidad existe una larga historia de uso de propaganda engañosa para manipular a los adversarios», dijo Rice. «El propio gobierno de Estados Unidos ha participado muchas veces a lo largo de los años en lugares como Irán, Guatemala, Congo, Vietnam del Sur, Chile y otros. Era inevitable que estas mismas tácticas acabaran utilizándose contra Estados Unidos. En mi trabajo ayudando a los países a establecer el estado de derecho y generar confianza pública en las instituciones jurídicas, he visto de primera mano lo perjudicial que puede ser la desinformación». Estrategias de defensa contra ataques narrativos para empresas 1. Monitorear de forma proactiva las amenazas emergentes El primer pilar de cualquier defensa eficaz contra la desinformación habilitada por IA es tener ojos y oídos en el terreno para detectar señales de advertencia tempranas. Esto requiere la implementación de una sólida plataforma de inteligencia narrativa que monitoree continuamente el panorama digital público, incluidas las conversaciones en las redes sociales, los medios de comunicación, los blogs y los foros frecuentados por los actores de amenazas. Además: ¿Recibió una factura falsa de McAfee? Cómo funciona la estafa El objetivo es identificar las narrativas emergentes creadas por la desinformación y la información errónea en sus primeras etapas antes de que puedan volverse virales e influir en la percepción pública. La velocidad es fundamental. Cuanto antes detecte una amenaza potencial, más rápido podrá investigarla y coordinar una respuesta adecuada. Los sistemas impulsados ​​por IA pueden rastrear cientos de millones de puntos de datos en tiempo real para detectar actividad anómala, temas de tendencia y patrones narrativos que podrían indicar un inminente ciberataque habilitado por desinformación. Los equipos de seguridad pueden entonces pivotar rápidamente para evaluar el potencial de impacto de la amenaza. Al aprovechar el aprendizaje automático y el procesamiento del lenguaje natural, estas soluciones de monitoreo pueden sacar a la luz señales que serían imposibles de detectar para los analistas humanos en medio del ruido de la esfera digital. Esto permite a las organizaciones ser proactivas en lugar de reactivas en su postura de defensa. 2. Mejore la concienciación y la capacitación de los empleados La desinformación a menudo explota las vulnerabilidades humanas, por lo que las organizaciones deben priorizar la concienciación y la capacitación de los empleados. Los empleados capacitados son la primera línea de defensa contra los ciberataques habilitados por la desinformación. Conciencia de phishing: la IA generativa mejora esta táctica de piratería probada en el tiempo al ayudar a los atacantes a crear mensajes de phishing sofisticados y personalizados. Los empleados deben recibir capacitación para reconocer los intentos de phishing, especialmente aquellos mejorados por la desinformación. Esto incluye comprender las tácticas comunes y ser cauteloso con los correos electrónicos o mensajes inesperados. Crear una cultura de concienciación: es importante crear una cultura en la que la ciberseguridad y el pensamiento crítico estén arraigados en las operaciones diarias. En Blackbird.AI, enfatizamos el aprendizaje continuo y alentamos a nuestros empleados a mantenerse informados sobre las amenazas emergentes. Este enfoque proactivo ha demostrado ser eficaz para mitigar el riesgo de ciberataques habilitados por la desinformación. «La desinformación ataca las percepciones de las personas sobre el sistema, haciéndoles creer que es corrupto, parcial o desconectado de las personas», dijo Rice. «Esto erosiona la base misma de un orden cohesivo. Al convencer a las personas de creer en falsedades, la desinformación lleva al público en general, a los líderes empresariales y a los responsables de las políticas a sacar conclusiones incorrectas y tomar decisiones que a menudo van en contra de sus mejores intereses, al tiempo que benefician a quienes están detrás de las campañas de desinformación». 3. Fomentar la colaboración y el intercambio de inteligencia en toda la industria Los ciberdelincuentes son conocidos por colaborar para ejecutar sofisticados ataques híbridos. La única manera de que los defensores igualen las condiciones de juego es cooperar de manera igualmente eficaz mediante la colaboración colectiva de inteligencia sobre amenazas, el análisis conjunto de nuevas tácticas y la coordinación de las respuestas. Además: Los mejores gestores de contraseñasLas empresas individuales pueden adoptar algunas medidas específicas para reforzar sus defensas contra la información errónea y la desinformación. Las empresas deberían invertir en herramientas avanzadas de monitorización impulsadas por IA para escanear continuamente en busca de información falsa sobre su marca en las plataformas digitales. Estas herramientas pueden proporcionar alertas en tiempo real, lo que permite dar respuestas rápidas a las amenazas emergentes. En segundo lugar, la creación de un grupo de trabajo dedicado formado por expertos en ciberseguridad, especialistas en comunicación y asesores jurídicos puede garantizar un enfoque coordinado y práctico para gestionar los incidentes de desinformación. Este equipo puede desarrollar e implementar protocolos de respuesta rápida, comunicación pública y acción legal cuando sea necesario. Las pymes, las empresas emergentes y las grandes empresas deberían priorizar los programas de formación de los empleados para educar al personal sobre cómo reconocer y responder a la desinformación. Al fomentar una cultura de vigilancia y escepticismo informado, las empresas pueden reducir el riesgo de que se propague la desinformación interna. Además: la IA está cambiando la ciberseguridad y las empresas deben estar alerta ante esta amenaza. Por último, las auditorías periódicas de los activos digitales y los canales de comunicación pueden ayudar a identificar vulnerabilidades y reforzar la resiliencia de la organización frente a los ataques de desinformación. Al tomar estas medidas proactivas, las empresas pueden proteger sus intereses y contribuir a un esfuerzo colectivo más amplio para combatir la amenaza generalizada de la desinformación. Expertos como Rice abogan por la transparencia y el desarrollo de alianzas intersectoriales. Compartir información y estrategias de mitigación entre sectores puede ayudar a las organizaciones a mantenerse un paso por delante de los malos actores. Las instituciones financieras, las empresas tecnológicas y las organizaciones de medios de comunicación pueden colaborar para compartir información valiosa y crear una visión integral del panorama de amenazas. Estas alianzas son esenciales para rastrear y contrarrestar la desinformación que abarca múltiples industrias, asegurando que ningún sector quede vulnerable. La colaboración con instituciones académicas es otra estrategia fundamental. Las universidades y los centros de investigación están a la vanguardia del estudio de las tácticas de desinformación y el desarrollo de contraestrategias. Al asociarse con estas instituciones, las empresas pueden acceder a información de vanguardia y tecnologías emergentes cruciales para prevenir las amenazas de desinformación. Esta colaboración puede impulsar la innovación y mejorar la eficacia de las contramedidas contra la desinformación. Además: La NSA recomienda apagar y encender el teléfono una vez a la semana. He aquí el motivo. La integración de la inteligencia narrativa en su estrategia de ciberseguridad requiere un enfoque multifacético. Comienza con la implementación de herramientas impulsadas por IA que puedan escanear continuamente la web pública, las plataformas sociales, los foros y los medios de comunicación en busca de narrativas emergentes y campañas de desinformación relacionadas con su organización. Estas soluciones de monitoreo utilizan algoritmos avanzados de procesamiento del lenguaje natural y aprendizaje automático para detectar actividad anómala, temas de tendencia y cambios de sentimiento que podrían indicar un ataque inminente. La desinformación y la información errónea impulsadas por IA pueden derribar empresas y destruir la confianza. La defensa narrativa ya no es opcional, es imperativa. Las empresas deben tejer la inteligencia narrativa en la estructura misma de sus estrategias de ciberseguridad, o de lo contrario…