Los recientes avances en IA no solo han traído consigo chatbots más sofisticados e inteligentes, sino que también han traído consigo desafíos importantes, en particular con el auge de los deepfakes. Si bien muchas de esas representaciones de IA se generan posteriormente, la nueva va un paso más allá con un intercambio de rostros de IA en tiempo real que se puede utilizar durante las videollamadas. Un nuevo proyecto de IA llamado Deep-Live-Cam ha ganado fuerza recientemente en línea por la parte de su función para aplicar deepfakes en cámaras web. Al mismo tiempo, esto ha provocado debates sobre los posibles riesgos de seguridad y las implicaciones éticas que plantea. En qué se diferencia Deep-Live-Cam de otros programas deepfake Básicamente, Deep-Live-Cam utiliza algoritmos de IA avanzados que pueden tomar una sola foto de origen y aplicar la cara a un objetivo durante las videollamadas en vivo, como en las cámaras web. Si bien el proyecto aún está en desarrollo, las pruebas iniciales ya muestran resultados tanto preocupantes como impresionantes. Como se describe con más detalle en Ars Technica, la aplicación primero lee y detecta rostros de una fuente y un sujeto objetivo. Luego, utiliza un modelo inswapper para intercambiar las caras en tiempo real mientras otro modelo mejora la calidad de las caras y agrega efectos que se adaptan a las condiciones de iluminación y expresiones faciales cambiantes. Este sofisticado proceso garantiza que el producto final sea altamente realista y no fácilmente reconocible como falso. Un ejemplo de una fusión de rostros usando a Elon Musk como fuente / © GitHub / Ars Technica Por ejemplo, uno de los clips compartidos por un desarrollador mostró una fusión realista de la cara del CEO de Tesla, Elon Musk, sobre un sujeto. El deepfake incluso incluyó una superposición de anteojos graduados y el cabello del sujeto, lo que lo hizo increíblemente convincente. Otro ejemplo mostrado fue uno con la cara del candidato a vicepresidente de EE. UU. JD Vance y Mark Zuckerberg de Meta. Una fusión de rostros del candidato a vicepresidente de EE. UU. JD Vance usando Deep-Live-Cam / © X/u/Orange AI ¿Debería preocuparse por el auge de las aplicaciones de simulación de IA? Entonces, ¿por qué es esto específicamente preocupante? El uso de Deel-Live-Cam y otras aplicaciones deepfake en tiempo real plantea serias preocupaciones sobre la privacidad y la seguridad. Imagina que una foto tuya puede ser extraída de Internet y utilizada para cometer fraudes, engaños y otras actividades maliciosas sin tu permiso. En este momento, se ha visto que las deficiencias se pueden solucionar de varias maneras, como incluir marcas de agua al usar la aplicación y métodos de detección robustos. La solución también se puede aplicar a otros programas y aplicaciones de deepfake. El interés en la herramienta la llevó rápidamente a la lista de proyectos de tendencia en GitHub. ¿Qué piensas sobre las aplicaciones de simulación de IA en tiempo real? ¿Tienes prácticas para compartir sobre cómo protegerte de estos riesgos potenciales? Nos gustaría escuchar tus respuestas en los comentarios.