Con videos y audios deepfake abriéndose paso en las campañas políticas, California promulgó sus restricciones más estrictas hasta el momento en septiembre: una ley que prohíbe los anuncios políticos dentro de los 120 días posteriores a una elección que incluyan contenido engañoso, generado digitalmente o alterado a menos que los anuncios estén etiquetados como “manipulados”. ”El miércoles, un juez federal bloqueó temporalmente la ley, diciendo que violaba la Primera Enmienda. Otras leyes contra los anuncios de campaña engañosos siguen vigentes en California, incluida una que exige que los candidatos y los comités de acción política revelen cuándo los anuncios utilizan inteligencia artificial para crear o alterar sustancialmente el contenido. Pero la orden judicial preliminar otorgada contra el Proyecto de Ley 2839 de la Asamblea significa que no habrá una prohibición amplia contra individuos que utilicen inteligencia artificial para clonar la imagen o la voz de un candidato y retratarlos falsamente sin revelar que las imágenes o palabras son falsas. La orden judicial fue solicitada por Christopher Kohls , un comentarista conservador que ha creado una serie de vídeos deepfake satirizando a los demócratas, incluida la candidata presidencial del partido, la vicepresidenta Kamala Harris. El gobernador Gavin Newsom citó uno de esos videos, que mostraba clips de Harris mientras una versión falsa de su voz hablaba de ser la “contratación de diversidad definitiva” y profesaba ignorancia e incompetencia, cuando firmó la AB 2839, pero la medida en realidad se introdujo. en febrero, mucho antes de que el video de Harris de Kohls se volviera viral en X. Cuando se le preguntó en X sobre el fallo, Kohls dijo: “¡La libertad prevalece! Por ahora.» Los videos deepfake que satirizan a los políticos, incluido uno dirigido a la vicepresidenta Kamala Harris, se han vuelto virales en las redes sociales. (Darko Vojinovic / Associated Press) El fallo del juez de distrito estadounidense John A. Méndez ilustra la tensión entre los esfuerzos para proteger contra la falsificación impulsada por la IA que podría influir en las elecciones y las fuertes salvaguardias de la Declaración de Derechos para el discurso político. Al otorgar una orden judicial preliminar, Méndez escribió: “Cuando el discurso político y la política electoral están en juego, la Primera Enmienda ha dictado casi inequívocamente que los tribunales permitan que el discurso florezca en lugar de apoyar el intento del Estado de sofocarlo. … [M]La mayor parte de AB 2839 actúa como un martillo en lugar de un bisturí, sirviendo como una herramienta contundente que obstaculiza la expresión humorística y sofoca inconstitucionalmente el intercambio libre y sin restricciones de ideas que es tan vital para el debate democrático estadounidense”. Public Citizen: “La Primera Enmienda no debería atarnos las manos a la hora de abordar una amenaza grave, previsible y real a nuestra democracia”. Robert Weissman, de la organización de defensa del consumidor Public Citizen, dice que otros 20 estados han adoptado leyes similares a la AB 2839, pero existen diferencias clave. ( Nick Wass / Associated Press) Weissman dijo que 20 estados habían adoptado leyes que seguían el mismo enfoque central: exigir que los anuncios que utilizan inteligencia artificial para manipular el contenido sean etiquetados como tales. Pero la AB 2839 tenía algunos elementos únicos que podrían haber influido en el pensamiento de Méndez, dijo Weissman, incluido el requisito de que la divulgación se muestre tan grande como el texto más grande visto en el anuncio. En su fallo, Méndez señaló que la Primera Enmienda se extiende a lo falso y discurso engañoso también. Incluso en un tema tan importante como la salvaguardia de las elecciones, escribió, los legisladores pueden regular la expresión sólo a través de los medios menos restrictivos. AB 2839, que exigía que los videos políticos mostraran continuamente la revelación requerida sobre la manipulación, no utilizó los medios menos restrictivos para proteger las elecciones. integridad, escribió Méndez. Un enfoque menos restrictivo sería el “contradiscurso”, escribió, aunque no explicó lo que eso implicaría. Weissman respondió: “El contradiscurso no es un remedio adecuado”. El problema con los deepfakes no es que hagan afirmaciones o insinuaciones falsas sobre un candidato, dijo; “El problema es que muestran al candidato diciendo o haciendo algo que en realidad no hizo”. Los candidatos objetivo tienen la tarea casi imposible de explicar que en realidad no hicieron ni dijeron esas cosas, dijo, lo cual es considerablemente más difícil que contrarrestar una acusación falsa pronunciada por un oponente o formulada por un comité de acción política. Los desafíos creados por los anuncios deepfake y requerir la divulgación de la manipulación no es una solución perfecta, dijo. Pero es el remedio menos restrictivo. Liana Keesing, de Issue One, un grupo de defensa de la democracia, dijo que la creación de deepfakes no es necesariamente el problema. «Lo que importa es la amplificación de ese contenido falso y engañoso», dijo Keesing, director de campaña del grupo. Alix Fraser, director de reforma tecnológica de Issue One, dijo que lo más importante que pueden hacer los legisladores es abordar cómo se diseñan las plataformas tecnológicas. . “¿Cuáles son las barreras en torno a eso? Básicamente no hay ninguno”, dijo, y agregó: “Ese es el problema central tal como lo vemos”.