Las herramientas generativas de IA (Genai) utilizadas por los estafadores cibernéticos para crear estafas de voz Deepfake convincentes parecen haber dominado el arte del acento de Glaswegian, según el cómic Billy Connolly. En una publicación en su página de Facebook a principios de esta semana, Connolly advirtió a los fanáticos que los artistas de estafadores en línea lo estaban haciendo pasar por cuentas de redes sociales fraudulentas y mensajes directos que solicitan interacciones directas con la estrella. Connolly, un ex soldador en los astilleros de Glasgow que se embarcaron en una carrera como cantante popular en la década de 1960 antes de convertirse en uno de los comediantes más queridos de Escocia, dijo: «Nunca interactúo directamente con los fanáticos o los seguidores y nunca sugeriría que me dirijan, me encuentren, me envíen dinero o compre bien directamente. Si se lo pide de lo anterior, es un Scam. My Levant y el Sound My Voice, que me envíe, se acerque a los bienes. tener cuidado.» Los estafadores y estafadores han explotado durante mucho tiempo el estatus de celebridades para atacar a sus víctimas, y el uso de las redes sociales para hacerlo no es nada nuevo en sí mismo. In the autumn of 2020 a breach at X, still known as Twitter at the time, saw the social media accounts of former celeb power couple Kanye West and Kim Kardashian hijacked to promote cryptocurrency scams, while earlier that year the UK’s National Cyber Security Centre (NCSC) was forced to issue a public warning after the identities of singer-songwriter Ed Sheeran, entrepreneur Richard Branson, and consumer champion Martin Lewis fueron secuestrados de manera similar. Sin embargo, desde 2020, el poder de recopilación de las herramientas de Genai ha ayudado a hacer que estas estafas sean aún más convincentes ya que los perpetradores ahora pueden crear videos y voz profundas extremadamente convincentes. Estas técnicas también están siendo utilizadas por actores de amenaza más sofisticados: en el verano de 2024, los agentes cibernéticos rusos fueron acusados de fabricar un crucero Tom generado por AI para difundir la falsa narrativa de que los terroristas planeaban atacar a los Juegos Olímpicos de París. En el mundo empresarial, el cebo de IA para tales estafas cibernéticas se centra con menos frecuencia en el acceso a las celebridades, sino más bien para hacerse pasar por personas de confianza dentro de una organización para engañar a los empleados como una forma de ingeniería social. En una entrevista semanal de computadora de 2023, el fundador y CEO de Sailpoint, Mark McClain, reveló cómo permitió que su negocio falsifique su identidad usando AI en un experimento que engañó con éxito a un tercio de los que participaron en él. Detectar AI Deepfakes es un problema particular para los sistemas de seguridad convencionales que tienden a ser menos efectivos para detectar medios sintéticos simplemente porque buscan las cosas incorrectas, aunque una serie de startups y escamas entre ellos especialistas en seguridad de voz Pindrop y GetReal Security, están surgiendo para abordar esto. Ofcom tiene el Power Rocio Concha, Director de Política y Defensa del Especialista en Protección al Consumidor, ¿que?, Dijo que la IA estaba ayudando a los estafadores a crear estafas cada vez más convincentes diseñadas para robar dinero, pero dijo que el regulador de comunicaciones OFCOM debía hacer más. «Según la Ley de Seguridad en línea, Ofcom tiene el poder de tomar medidas contra plataformas que no evitan que el contenido fraudulento se cargue y circule en sus sitios», dijo Concha. «El regulador no debe dudar en tomar medidas contra las empresas que rompen las reglas y también debe asegurarse de que sus próximos códigos de práctica para hacer que las plataformas sean responsables de las fraudulentas pagadas de publicidad en sus sitios sean lo más sólidos posible. El gobierno también debe legislar para detener los anuncios de estafa en los sitios que están fuera del alcance de los detalles en línea. Si cree que ha sido blanco de una estafa, puede informarlo directamente a la plataforma en cuestión y al Centro Nacional de Seguridad Cibernética ”, dijo.