Cemile Bingol/Getty ImagesLas falsificaciones profundas generadas por inteligencia artificial (IA) están por todo Internet y alimentan todo, desde estafas hasta desinformación política. El proveedor de ciberseguridad McAfee es ahora la última entidad en intentar una solución, pero no es para todos y puede que no sea una solución universal. El miércoles, el proveedor de ciberseguridad McAfee lanzó su Deepfake Detector, una herramienta impulsada por IA que escanea videos en busca de señales de audio generado por IA. Según el comunicado, una vez que un usuario se suscribe, el detector monitorea automáticamente lo que se está reproduciendo en una PC y alerta al usuario «en segundos» si encuentra audio alterado por IA, todo sin el uso de software de terceros o la necesidad de verificaciones manuales iniciadas por el usuario. Además: Las estafas telefónicas con IA suenan aterradoramente reales. Haga estas 5 cosas para protegerse y proteger a su familia El audio alterado podría indicar una estafa de deepfake, incluidas las que clonan las voces de seres queridos para engañar a las personas para que paguen rescates falsos o se hagan pasar por figuras públicas para difundir información falsa. El comunicado de McAfee señala que la proliferación de la IA ha permitido a los cibercriminales crear «estafas más convincentes, personalizadas y generadas por IA a gran escala». «Si bien no todo el contenido de IA se crea con intenciones maliciosas, la capacidad de saber si un video es real o falso ayuda a los consumidores a tomar decisiones inteligentes y bien informadas», afirma el anuncio de McAfee. «Deepfake Detector solo analiza el audio; más específicamente, escanea el audio de los videos que se reproducen en el navegador y no escanea cosas que involucran la gestión de derechos digitales, como el contenido que encontraría en un servicio de transmisión de video como Netflix o Disney+», dijo un portavoz de McAfee a ZDNET. Además: la mayoría de las personas se preocupan por los deepfakes y sobreestiman su capacidad para detectarlos. El detector no monitorea ningún video o audio que se reproduce fuera de la PC. «Nuestra investigación de amenazas descubrió que la mayoría de los videos deepfake usaban audio manipulado o generado por IA como la forma principal de engañar a los espectadores. Los elementos visuales de los videos suelen ser imágenes genuinas y muy bien cortadas para distraer a los espectadores del mensaje sospechoso», continuó el portavoz. McAfee creó Deepfake Detector en asociación con Lenovo específicamente para sus PC Copilot+, lo que significa que solo está disponible en esos dispositivos y eventualmente costará al menos $10 por año. Al utilizar la Unidad de procesamiento neuronal (NPU) de McAfee, los modelos de detección de IA de la compañía ejecutan la inferencia, o el proceso de identificación de contenido de extremo a extremo, completamente en la PC. Este tipo de IA en el dispositivo refuerza la privacidad del usuario al mantener los datos personales fuera de la nube, un enfoque que Apple está adoptando con Apple Intelligence, que se implementará en los dispositivos este otoño. Por supuesto, el detector debe vigilar la computadora portátil de un usuario para funcionar, pero McAfee asegura que esto no infringirá la privacidad. «McAfee no recopila ni graba el audio de un usuario de ninguna manera, y el usuario siempre tiene el control y puede activar o desactivar la detección de audio como desee», explicó la compañía en el comunicado. McAfee también explicó que los beneficios de ejecutar Deepfake Detector en el dispositivo incluyen una velocidad de procesamiento más rápida y una mejor duración de la batería. Además: el 80% de las personas cree que las falsificaciones profundas afectarán las elecciones. Aquí hay tres formas de prepararsePero, ¿funciona realmente la detección de audio con IA? «Ya no hay que preguntarse si se trata de un obsequio de celebridades, si esta oferta de inversión es legítima, si este político realmente dijo estas palabras», dijo Roma Majumder, vicepresidente sénior de productos de McAfee, en el comunicado. Esa es una expectativa alta. Poner este tipo de tecnología, aunque sea en una etapa temprana, directamente en los dispositivos prepara mejor a los consumidores para un futuro lleno de contenido generado por IA. Sin embargo, como ha descubierto el propio informe de ZDNET, la precisión y la eficacia de la tecnología de detección han sido poco fiables, especialmente si se considera el ritmo al que evoluciona la IA generativa. «La tecnología utiliza un modelo entrenado en casi 200.000 muestras y ofrece a los consumidores una detección avanzada de IA, con una tasa de precisión del 96%», explicó el portavoz de McAfee sobre el detector. Además: existen más deepfakes políticos de los que crees, según este experto en inteligencia artificialAdemás de Deepfake Detector, McAfee también lanzó Smart AI Hub, un recurso educativo de ciberseguridad para consumidores que tiene como objetivo «crear conciencia sobre los deepfakes y las estafas impulsadas por IA», según el anuncio. Los usuarios pueden enviar videos de apariencia sospechosa al centro para que McAfee los analice. La empresa dice que planea compartir los conocimientos resultantes como un recurso con el público. Deepfake Detector está disponible hoy en inglés para todas las nuevas PC Lenovo Copilot+ solicitadas en el sitio web de Lenovo y en minoristas seleccionados en los EE. UU. Una vez que haya comprado la PC, un cliente puede usar el detector de forma gratuita durante 30 días, después de lo cual el precio comienza en $ 10 durante el primer año. La función estará disponible en Australia y el Reino Unido más adelante en 2024.