La falsificación de la IA se está convirtiendo rápidamente en uno de los mayores problemas a los que nos enfrentamos en línea. Las imágenes, vídeos y audios engañosos están proliferando como resultado del aumento y el uso indebido de las herramientas de inteligencia artificial generativa. Con los deepfakes de IA apareciendo casi todos los días, que representan a todos, desde Taylor Swift hasta Donald Trump, cada vez es más difícil distinguir lo que es real de lo que no lo es. . Los generadores de vídeo e imágenes como DALL-E, Midjourney y Sora de OpenAI facilitan a las personas sin conocimientos técnicos la creación de deepfakes: simplemente escribe una solicitud y el sistema la escupe. Estas imágenes falsas pueden parecer inofensivas. Pero pueden usarse para llevar a cabo estafas y robo de identidad o propaganda y manipulación electoral. LOS DEEPFAKES CON IA ESTÁN PELIGRO A LA DEMOCRACIA. AQUÍ HAY 4 MANERAS DE CONTRAatacarA continuación se explica cómo evitar ser engañado por los deepfakes:CÓMO Detectar un DEEPFAKEEn los primeros días de los deepfakes, la tecnología estaba lejos de ser perfecta y, a menudo, dejaba signos reveladores de manipulación. Los verificadores de datos han señalado imágenes con errores obvios, como manos con seis dedos o anteojos con lentes de diferentes formas. Pero a medida que la IA ha mejorado, se ha vuelto mucho más difícil. Algunos consejos ampliamente compartidos, como buscar patrones de parpadeo antinaturales entre las personas en videos deepfake, ya no son válidos, dijo Henry Ajder, fundador de la consultora Latent Space Advisory y destacado experto en IA generativa. Un vídeo falso del presidente ucraniano Volodymyr Zelensky pidiendo a sus soldados que depongan las armas, a la derecha, en comparación con imágenes reales de él, a la izquierda, se muestra detrás de una declaración del jefe de política de seguridad de META, en Washington, DC. Los deepfakes son cada vez más difíciles de diferenciar de las imágenes reales a medida que avanza la tecnología. (Olivier Douliery/AFP vía Getty Images) Aún así, hay algunas cosas que buscar, dijo. Muchas fotos deepfake de IA, especialmente de personas, tienen un brillo electrónico, «una especie de efecto de suavizado estético» que deja La piel «luce increíblemente pulida», dijo Ajder. Sin embargo, advirtió que las indicaciones creativas a veces pueden eliminar este y muchos otros signos de manipulación de la IA. Compruebe la consistencia de las sombras y la iluminación. A menudo, el sujeto está claramente enfocado y parece convincentemente realista, pero los elementos del fondo pueden no ser tan realistas o pulidos. MIRA LAS CARAS El intercambio de caras es uno de los métodos de deepfake más comunes. Los expertos aconsejan mirar de cerca los bordes del rostro. ¿El tono de piel del rostro coincide con el del resto de la cabeza o del cuerpo? ¿Los bordes de la cara son nítidos o borrosos? Si sospecha que un video de una persona hablando ha sido manipulado, mire su boca. ¿Los movimientos de sus labios coinciden perfectamente con el audio? Ajder sugiere mirar los dientes. ¿Son claros o están borrosos y de alguna manera no son consistentes con su aspecto en la vida real? La empresa de ciberseguridad Norton dice que los algoritmos podrían no ser lo suficientemente sofisticados todavía para generar dientes individuales, por lo que la falta de contornos para los dientes individuales podría ser una pista. ACERCA DEL PANORAMA MÁS GRANDEA veces el contexto importa. Tómate un momento para considerar si lo que estás viendo es plausible. El sitio web de periodismo Poynter advierte que si ves a una figura pública haciendo algo que parece «exagerado, poco realista o fuera de su carácter», podría ser un deepfake. Por ejemplo, ¿Realmente el Papa usará una chaqueta acolchada de lujo, como lo muestra una famosa foto falsa? Si lo hiciera, ¿no habría fotos o videos adicionales publicados por fuentes legítimas? USO DE IA PARA ENCONTRAR LAS FALSIFICACIONES Otro enfoque es usar IA para combatir la IA. Microsoft ha desarrollado una herramienta de autenticación que puede analizar fotos o videos para dar una puntuación de confianza. sobre si ha sido manipulado. FakeCatcher del fabricante de chips Intel utiliza algoritmos para analizar los píxeles de una imagen y determinar si es real o falsa. Hay herramientas en línea que prometen detectar falsificaciones si carga un archivo o pega un enlace al material sospechoso. Pero algunos, como el autenticador de Microsoft, sólo están disponibles para socios seleccionados y no para el público. Esto se debe a que los investigadores no quieren alertar a los malos actores y darles una mayor ventaja en la carrera armamentista de los deepfake. El acceso abierto a las herramientas de detección también podría dar a las personas la impresión de que son «tecnologías divinas que pueden subcontratar el pensamiento crítico por nosotros» cuando en cambio, debemos ser conscientes de sus limitaciones, dijo Ajder. HAGA CLIC AQUÍ PARA OBTENER LA APLICACIÓN DE FOX NEWS LOS OBSTÁCULOS PARA ENCONTRAR FALSIFICACIONES Dicho todo esto, la inteligencia artificial ha avanzado a una velocidad vertiginosa y los modelos de IA se están entrenando con datos de Internet para producir cada vez más contenido de mayor calidad con menos fallas. Eso significa que no hay garantía de que este consejo siga siendo válido incluso dentro de un año. Los expertos dicen que incluso podría ser peligroso imponer a la gente común la carga de convertirse en Sherlocks digitales porque podría darles una falsa impresión. sensación de confianza a medida que se vuelve cada vez más difícil, incluso para ojos entrenados, detectar deepfakes.

Source link