Inteligencia artificial y aprendizaje automático,Ciberguerra / Ataques de estados-nación,Gestión del fraude y ciberdelito El software Meliorator genera bots en las redes socialesDavid Perera (@daveperera) • 9 de julio de 2024 Los afiliados de la red de propaganda rusa RT ayudaron a construir y ejecutar una operación de desinformación en las redes sociales impulsada por IA. (Imagen: Shutterstock) Las autoridades federales de Estados Unidos confiscaron dos dominios web que, según dijeron, respaldaban una red de desinformación impulsada por inteligencia artificial dirigida por la agencia de inteligencia nacional rusa y afiliados de una emisora ​​de propaganda estatal. Ver también: Cierre las brechas en su estrategia de seguridad El Departamento de Justicia buscó casi 1.000 cuentas en la plataforma de redes sociales X, anteriormente Twitter. El Kremlin utilizó las cuentas para difundir propaganda a favor de Moscú generada por el software Meliorator, una aplicación de inteligencia artificial a medida codificada en Rusia para crear cuentas de redes sociales bot y la desinformación difundida en ellas. La herramienta es capaz de responder a mensajes directos en tiempo real, dijo el FBI en un aviso que emitió junto con agencias gubernamentales de los Países Bajos y Canadá. A partir de junio, Meliorator solo puede ejecutarse en X, aunque el aviso advierte que sus desarrolladores probablemente tengan la intención de extender su alcance a otras redes sociales. Los analistas de ciberamenazas advierten que la producción de desinformación rusa ha crecido de manera constante durante la última década y está dirigida a Estados Unidos y a miembros de alianzas internacionales como la OTAN. Un análisis de 2022 de Rand sobre la desinformación rusa dice que, contrariamente a las descripciones populares, las operaciones de desinformación rusas no están bien organizadas ni cuentan con los recursos necesarios. Pero incluso una inversión modesta puede hacer que la desinformación llegue a «audiencias internacionales amplias y variadas», dice. NewsGuard, el sistema de calificación de sitios web de noticias e información, descubrió recientemente que los populares chatbots de IA han ingerido desinformación rusa y son propensos a regurgitar narrativas falsas (ver: Los chatbots populares difunden desinformación rusa, según un estudio). “Rusia pretendía utilizar esta granja de bots para difundir desinformación extranjera generada por IA, ampliando su trabajo con la ayuda de la IA para socavar a nuestros socios en Ucrania e influir en las narrativas geopolíticas favorables al gobierno ruso”, dijo el director del FBI, Christopher Wray. Una declaración jurada presentada por un agente del FBI describe la investigación y dice que Meliorator es una creación de un ejecutivo de la cadena de televisión estatal RT, anteriormente Russia Today. Menos de un año después de comenzar a desarrollar el software, el ejecutivo comenzó a trabajar con un oficial del Servicio Federal de Seguridad, el sucesor ruso de la KGB de la Unión Soviética. La operación de desinformación registró al menos 968 cuentas en X entre junio de 2022 y marzo de 2024. La declaración jurada identifica al desarrollador principal de Meliorator solo como otro empleado de RT. El FBI siguió un rastro digital que conducía a ese individuo a través de una serie de direcciones de Gmail utilizadas para registrar ilegalmente los dominios utilizados para registrar las cuentas de redes sociales del bot. El rastro, creado a través de correos electrónicos secundarios proporcionados a Google como vías para la recuperación de la cuenta, finalmente condujo a una cuenta creada en 2015 utilizando una cuenta de correo electrónico yandex.ru como respaldo y un número de teléfono que contenía el código internacional de país ruso. El desarrollador proporcionó a Google información de pago de Qiwi (el equivalente ruso de PayPal) y una región fiscal rusa. El FBI dijo que el desarrollador en un momento dado aparentemente olvidó usar una VPN al acceder a una dirección de Gmail, revelando una dirección IP real que se resolvió a un proveedor de telecomunicaciones con sede en Moscú. Los operadores de Meliorator se centraron en evitar la detección automatizada. La herramienta puede crear tres tipos diferentes de cuentas que varían en la riqueza de detalles. Los operadores usan cuentas que contienen fotos de perfil generadas por IA y datos biográficos que incluyen nombre y ubicación para distribuir inicialmente desinformación. Otro tipo de cuenta, creada con datos extraídos en línea para crear una personalidad aparentemente sin vínculos con la IA, «se usa para reflejar y amplificar la desinformación compartida por cuentas de bots y no bots», afirma el aviso. Un tercer arquetipo de cuenta contiene poca o ninguna información en su perfil, y su función se limita a dar me gusta a los mensajes de desinformación. Las cuentas de bots suelen restringir las interacciones con cuentas con más de 100.000 seguidores, con el fin de integrarse en el entorno más amplio de las redes sociales. Meliorator asigna automáticamente una dirección IP proxy a cada cuenta en función de dónde se supone que se encuentra el bot. URL de la publicación original: https://www.databreachtoday.com/us-busts-russian-ai-driven-disinformation-operation-a-25729