Tiktok señala que utiliza la tecnología y los moderadores humanos para identificar el contenido que rompe las reglas. Sin embargo, el volumen de cargas dificulta la moderación oportuna. Mientras que los videos racistas acumularon muchas opiniones, un portavoz de Tiktok le dice a ARS que más de la mitad de las cuentas citadas en el informe de Mediamatters estaban prohibidas por violaciones de políticas antes de que se publicara el informe, y el resto ahora se han eliminado. En cuanto a Google, tiene una política de uso prohibida integral que prohíbe el uso de sus servicios para promover el discurso de odio, el acoso, el acoso escolar, la intimidación y el abuso. Los videos descubiertos por Mediamatters parecen caer en una o más de estas categorías. En un mundo perfecto, Veo 3 se negaría a crear estos videos, pero la vaguedad en el aviso y la incapacidad de la IA para comprender las sutilezas de los tropos racistas (es decir, el uso de monos en lugar de humanos en algunos videos) hace que sea fácil bordear las reglas. Tiktok, siendo el principal video social del mundo del mundo, es un lugar natural para que estos videos se difundan. Sin embargo, no es exclusivo de Tiktok. X (anteriormente Twitter) se ha ganado una reputación de moderación muy limitada, lo que lleva a una explosión de contenido de IA odioso. Este problema también podría empeorar muy pronto. Google tiene planes de integrar VEO 3 en los pantalones cortos de YouTube, lo que podría facilitar el contenido similar para extenderse en YouTube. Tiktok y Google tienen prohibiciones claras en este contenido, lo que debería haber evitado que se vea millones de veces en las redes sociales. Sin embargo, falta la aplicación de esas políticas. Tiktok aparentemente no puede mantenerse al día con la avalancha de cargas de video, y las barandillas de Google parecen insuficientes para bloquear la creación de este contenido. Nos hemos comunicado con Google para preguntar sobre las características de seguridad de Veo 3, pero aún no hemos tenido noticias. Mientras haya existido una IA generativa, las personas la han usado para crear contenido inflamatorio y racista. Google y otros siempre hablan de las barandillas para evitar el mal uso, pero no pueden atrapar todo. El realismo de Veo 3 lo hace especialmente atractivo para aquellos que quieren difundir estereotipos odiosos. Tal vez todas las barandillas del mundo no detengan eso.
Deja una respuesta