Las celebridades están demasiado familiarizadas con el mundo de los profundos, el término coloquial para los videos generados por la inteligencia artificial que representan a los actores y otros talentos de Hollywood haciendo o diciendo falsamente cosas que nunca acordaron. Para protegerse, los actores como Steve Harvey, la agencia de talentos de Beverly Hills WME y los estudios han solicitado la ayuda de Vermillio, una compañía con sede en Chicago que rastrea las famosas semejanzas digitales y propiedades intelectuales en línea. Dependiendo de lo que quieran sus clientes, Vermillio puede eliminar el material. Pero a medida que la tecnología de IA continúa mejorando y se vuelve más ampliamente disponible para el público en general, las personas regulares también están siendo estafadas. Ahora, Vermillio dice que está ofreciendo una versión de su servicio de forma gratuita para todos. El movimiento se produce a medida que más y más convincentes se continúan proliferando en línea, lo que dificulta los sitios de redes sociales para la policía. En 2019, hubo alrededor de 18,000 profundos en todo el mundo, y este año, ha habido aproximadamente 2 billones de creaciones generativas, dijo el director ejecutivo y cofundador de Vermillio, Dan Neely. Eso deja a los Joes promedio con un riesgo creciente de ser hacerse pasar por alto, con poco recurso. «No podemos esperar a que los gobiernos resuelvan este problema», dijo Neely. «No podemos esperar a que los legisladores resuelvan este problema. No podemos esperar a que otras personas resuelvan este problema. Simplemente dijimos que es lo correcto, por lo que deberíamos hacerlo». Con este movimiento, Vermillo está adoptando un modelo clásico «freemium», que ofrece un servicio parcial sin cargo y ventas al revés para características adicionales. Así es como funciona. Usando su tecnología TraceID, la compañía marca contenido problemático. Para los clientes que pagan, Vermillio puede enviar solicitudes de eliminación a sitios como YouTube o Instagram. Además, Vermillio dice que los clientes pueden monetizar sus datos mediante la licencia. Las personas que se registran en la versión gratuita ingresan información sobre sí mismas, como su nombre, fecha de nacimiento y manijas de las redes sociales. Vermillio utilizará esa información para crear un «modelo de semejanza» para buscar en Internet las posibles banderas rojas que involucran la identidad del usuario. Luego, Vermillio alerta al usuario sobre lo que existe en línea. Por ejemplo, si alguien ha creado una cuenta falsa de Instagram de ese usuario, Vermillio lo marcaría. Los usuarios pueden decidir por sí mismos lo que les gustaría permitir o tomar medidas para eliminar. Si el usuario desea que Vermillio solicite a los derribos del contenido inapropiado, los usuarios deberían actualizar a una cuenta pagada, que comienza en $ 10 al mes e incluye cinco solicitudes mensuales de derribo. Si bien muchas plataformas de redes sociales dan una opción a los usuarios de marcar contenido problemático, Vermillio dijo que su servicio es más rápido y efectivo que hacer que los usuarios vayan directamente a YouTube o Instagram para rectificar la situación. Ha construido una red de socios y puede escalar los derribos tan rápido como una hora, dijo la compañía. Los ejecutivos de Verneria dijeron que algunos ejemplos de la vida real de falsificaciones profundas incluyen voces de celebridades utilizadas para recaudar dinero para organizaciones benéficas falsas o organizaciones de terroristas, y a los estudiantes de secundaria que crean pornografía falsa de sus compañeros de clase «. Está afectando a las personas regulares en el sentido de que están a la altura de las adolescentes, pero que también afectan a las adolescentes … también afectan a las adolescentes … también afectan a las adolescentes … también que afectan a las personas que están afectando … Stand ”, dijo Kathleen Grace, directora de estrategia de Vermillio. «Esta es una manera fácil de hacer eso». Si bien los perfiles de redes sociales falsos han existido durante años, «la IA generativa acaba de verter gasolina», dijo Grace. La compañía dijo que cientos de personas usan los servicios de Vermillio, pero no especificó números. A finales de año, la compañía espera tener miles. Neely dijo que la compañía no es rentable y se negó a compartir cifras de ingresos. La revista Time informó que los ingresos de TraceID de Vermillio han aumentado diez veces desde abril de 2023 hasta abril de 2024. La compañía gana dinero a través de las versiones pagas de su servicio y licencias. Vermillio ha recaudado $ 24 millones en fondos. Las empresas de Hollywood y el talento están navegando por la inteligencia artificial de diferentes maneras. Grupos como el Guild Sag-Aftra de Arrenders están presionando para obtener más protecciones estatales y federales contra Deepfakes. Algunas celebridades, como el actor secundario ganador del Premio de la Academia, Jamie Lee Curtis, lucharon por obtener un anuncio falso de ella en Instagram, mostrándola falsamente respaldando un producto dental. WME anunció una asociación con Vermillio el año pasado. «La escala del problema es extraordinaria, por lo que si usted es un titular de los derechos, solo tratar de comprender en qué parte de estas salidas de IA se basan o utilizaron mis datos, mi IP de alguna manera o forma es una gran necesidad», dijo la mayor parte de Chris Jacquemin. Mundo ”, agregó Jacquemin. «Creo que abrirlo en una aplicación mucho más amplia es un gran paso adelante en la democratización realmente en la forma en que alguien puede comenzar a controlar su semejanza con respecto a las plataformas de IA y AI».
