En el Día de una Internet más segura, hacemos una pregunta importante: ¿cómo se puede saber qué es real y qué es falso en línea? Hay muchas falsificaciones, debido en gran parte al contenido generado por IA. Y hoy en día, detectar la diferencia requiere un poco de trabajo. Taylor Swift nos mostró por qué en enero. Más exactamente, un clon de voz de IA de Taylor Swift nos mostró por qué. Los estafadores combinaron imágenes antiguas de Swift con audio falso clonado por IA que promocionaba un obsequio de utensilios de cocina. Lo hicieron de forma cautelosa, utilizando como cebo la marca Le Creuset, una marca que sus fans saben que ella ama. Por supuesto, todo lo que la gente tenía que hacer era “responder algunas preguntas” para obtener sus utensilios de cocina “gratis”. Cuando algunos lo hicieron, terminaron con información personal robada. Es una de muchas estafas de robo de identidad con un falso toque de inteligencia artificial de celebridades. Por supuesto, esta no fue la primera vez que los estafadores utilizaron la IA para engañar a personas bien intencionadas. En diciembre pasado, las herramientas de clonación de voz de IA imitaron a la cantante Kelly Clarksoni para vender gomitas para bajar de peso. Durante el verano, los estafadores publicaron otros anuncios utilizando la voz sintetizada de Elon Muskii. Mientras tanto, de manera más silenciosa pero no menos dañina, hemos visto un exceso de falsificaciones generadas por IA inundar nuestras pantallas. Parecen más convincentes que nunca, ya que los malos actores utilizan herramientas de inteligencia artificial para generar videos, correos electrónicos, textos e imágenes falsos. Lo hacen de forma rápida y económica, pero este contenido falso todavía tiene algo de brillo. Gran parte carece de los signos reveladores de una falsificación, como mala ortografía, gramática y diseño. Otro ejemplo de contenido falso generado por IA proviene de un informe de la BBC sobre desinformación que se proporciona a estudiantes jóvenesiii. En él, investigaron varios canales de YouTube que utilizan IA para crear vídeos. Los creadores de estos canales los anunciaron como contenido educativo para niños, pero los investigadores los encontraron llenos de falsedades y teorías de conspiración descaradas. Este informe de la BBC ofrece un excelente ejemplo de desinformación deliberada, producida a gran escala, haciéndose pasar por la verdad. También es un ejemplo más de cómo los malos actores utilizan la IA, no para estafas, sino para difundir mentiras descaradas. En medio de todas estas estafas y desinformación que circulan por ahí, conectarse a Internet puede parecer como jugar un juego de “verdadero o falso”. En silencio, y a veces no tan en silencio, nos preguntamos: «¿Es real lo que estoy viendo y oyendo?». Sin duda, la IA ha hecho que responder esa pregunta sea más difícil. Sin embargo, eso está cambiando. De hecho, ahora estamos usando IA para detectar IA. Como profesionales de la seguridad, podemos utilizar la IA para ayudar a detectar qué es real y qué es falso. Como un detector de mentiras. Mostramos esa tecnología exacta en la gran feria tecnológica CES en Las Vegas a principios de este año. Nuestro propio Proyecto Mockingbird, que detecta voces generadas por IA con una precisión superior al 90%. Aquí lo vemos en acción cuando lo comparamos con el video de estafa de Taylor Swift. A medida que las líneas rojas aumentan, nuestra tecnología de IA señala lo que es falso… Además de la detección de audio por IA, también estamos trabajando en tecnología para la detección de imágenes, detección de videos y detección de texto: herramientas que nos ayudarán a distinguir lo que es real y que es falso. Es bueno saber que una tecnología como esta está en el horizonte. Sin embargo, más allá de la tecnología, estás tú. Tu propia capacidad para detectar una falsificación. Tienes tu propio detector de mentiras integrado. Las preguntas rápidas que pueden ayudarte a detectar falsificaciones de IA. Como dijo Ferris Bueller en las películas hace años: “La vida avanza bastante rápido…” y eso también se aplica a Internet. La velocidad de la vida en línea y la naturaleza de nuestros días, que de otro modo serían muy ocupados, hacen que sea difícil detectar falsificaciones. Tenemos prisa y no siempre nos detenemos a pensar si lo que vemos y oímos es real. Sin embargo, eso es lo que se necesita. Detenerse y hacer algunas preguntas rápidas. Como lo propuso Common Sense Media, un puñado de preguntas pueden ayudarlo a detectar qué es probablemente real y qué es probablemente falso. Mientras lees artículos, miras vídeos, etc., puedes preguntarte: ¿Quién hizo esto? ¿Quién es el público objetivo? ¿Alguien se beneficia si hace clic en él? ¿Quién pagó por este contenido? ¿Quién podría beneficiarse o verse perjudicado por este mensaje? ¿Qué información importante queda fuera del mensaje? ¿Es esto creíble? ¿Por qué o por qué no?» Responder sólo algunas de ellas puede ayudarle a detectar una estafa. O al menos tener la sensación de que podría estar en marcha una estafa. Usemos el vídeo de Taylor Swift como ejemplo. Hacer sólo tres preguntas dice mucho. Primero, «¿qué información importante queda fuera?» El video menciona un «error de embalaje». ¿En realidad? ¿Qué tipo de error? ¿Y por qué llevaría esto a Le Creuset a regalar miles y miles de dólares en sus utensilios de cocina? Las empresas tienen formas de corregir errores como estos. Entonces eso parece sospechoso. En segundo lugar, “¿es esto creíble?” Éste se vuelve un poco complicado. Sin embargo, mire el video de cerca. Ese primer clip de Swift parece una Swift mucho más joven en comparación con las otras tomas utilizadas más tarde. Vemos a Taylor Swift de sus diferentes “épocas” en todas partes, unidas de manera descuidada. Dicho esto, observe lo rápidos que son los cortes. Probablemente los estafadores querían ocultar el mal trabajo de sincronización de labios que hicieron. Esto parece aún más sospechoso. Por último, «¿quién pagó por este contenido?» Bien, digamos que Le Creuset realmente cometió un «error de embalaje». ¿Realmente pondrían tiempo, esfuerzo y dinero en un anuncio que presentara a Taylor Swift? Sin duda, eso generaría aún más pérdidas en esos 3.000 utensilios de cocina “mal empaquetados”. No tiene sentido. Si bien estas preguntas no dieron respuestas definitivas, ciertamente generaron varias señales de alerta. Todo esto suena como una estafa, gracias a hacer algunas preguntas rápidas y pasar las respuestas a través de su propio detector de mentiras interno. Una Internet más segura requiere una combinación de tecnología y ojo crítico. Entonces, ¿cómo puedes saber qué es real y qué es falso en línea? En la época de la IA, será más fácil a medida que se implementen nuevas tecnologías que detecten falsificaciones. Sin embargo, al igual que ocurre con la seguridad en línea, la otra parte para saber qué es verdadero y qué es falso eres tú. Saltar a Internet hoy en día exige más que nunca una mirada crítica. Los malos actores pueden crear contenido con IA a un ritmo nunca visto hasta ahora. Y lo crean para tocar un nervio. Para atraerlo a una estafa o influir en su forma de pensar con desinformación. Dicho esto, el contenido que te irrita, te toma por sorpresa o te motiva a actuar es contenido en el que debes hacer una pausa y pensar. Hacer algunas preguntas puede ayudarte a detectar una falsificación o darte la sensación de que algo en ese contenido no está del todo bien, lo cual puede mantenerte más seguro en línea. Presentamos McAfee+ Protección contra robo de identidad y privacidad para su vida digital Descargue McAfee+ ahora \x3Cimg height=»1″ width=»1″ style=»display:none» src=»https://www.facebook.com/tr?id= 766537420057144&ev=PageView&noscript=1″ />\x3C/noscript>’);