En los últimos meses, hemos visto una llamada automática falsa de Joe Biden alentando a los votantes de New Hampshire a «guardar su voto para las elecciones de noviembre» y un respaldo falso a Donald Trump por parte de Taylor Swift. Está claro que 2024 marcará la primera “elección de IA” en la historia de Estados Unidos. Mientras muchos defensores piden salvaguardias contra los posibles daños de la IA a nuestra democracia, Meta (la empresa matriz de Facebook e Instagram) anunció con orgullo el mes pasado que etiquetará a la IA como -Contenido generado que se creó utilizando las herramientas de IA generativa más populares. La compañía dijo que está «creando herramientas líderes en la industria que pueden identificar marcadores invisibles a escala, específicamente, la información ‘generada por IA’ en los estándares técnicos C2PA e IPTC». Desafortunadamente, las empresas de redes sociales no resolverán el problema de los deepfakes en las redes sociales este año con este enfoque. De hecho, este nuevo esfuerzo hará muy poco para abordar el problema del material generado por IA que contamina el ambiente electoral. La debilidad más obvia es que el sistema de Meta solo funcionará si los malos actores que crean deepfakes usan herramientas que ya ponen marcas de agua, es decir, información oculta o visible sobre el origen del contenido digital en sus imágenes. Las herramientas de IA generativa de “código abierto” no seguras en su mayoría no producen marcas de agua en absoluto. (Usamos el término no seguro y ponemos “código abierto” entre comillas para indicar que muchas de estas herramientas no cumplen con las definiciones tradicionales de software de código abierto, pero aún representan una amenaza porque su código subyacente o sus pesos de modelo se han puesto a disposición del público. .) Si se lanzan nuevas versiones de estas herramientas no seguras que contienen marcas de agua, las herramientas antiguas seguirán estando disponibles y podrán producir contenido sin marcas de agua, incluida desinformación personalizada y altamente persuasiva y pornografía deepfake no consensuada. También nos preocupa que los malos actores pueden eludir fácilmente el régimen de etiquetado de Meta incluso si están utilizando las herramientas de inteligencia artificial que Meta dice que estarán cubiertas, que incluyen productos de Google, OpenAI, Microsoft, Adobe, Midjourney y Shutterstock. Dado que se necesitan unos dos segundos para eliminar una marca de agua de una imagen producida utilizando el estándar de marca de agua C2PA actual que estas empresas han implementado, la promesa de Meta de etiquetar imágenes generadas por IA fracasa. Cuando los autores subieron una imagen que habían generado a un sitio web que busca marcas de agua, el sitio indicó correctamente que era una imagen sintética generada por una herramienta OpenAI. IEEE SpectrumLo sabemos porque pudimos eliminar fácilmente las marcas de agua que Meta afirma que detectará, y ninguno de nosotros es ingeniero. Tampoco tuvimos que escribir una sola línea de código ni instalar ningún software. Primero, generamos una imagen con DALL-E 3 de OpenAI. Luego, para ver si la marca de agua funcionaba, subimos la imagen al sitio web de verificación de credenciales de contenido C2PA. Una interfaz simple y elegante nos mostró que esta imagen fue hecha con DALL-E 3 de OpenAI. ¿Cómo eliminamos entonces la marca de agua? Tomando una captura de pantalla. Cuando subimos la captura de pantalla al mismo sitio web de verificación, el sitio de verificación no encontró evidencia de que la imagen hubiera sido generada por IA. El mismo proceso funcionó cuando creamos una imagen con el generador de imágenes de IA de Meta y le tomamos una captura de pantalla y la subimos a un sitio web que detecta los metadatos de IPTC que contienen la «marca de agua» de IA de Meta. Sin embargo, cuando los autores tomaron una captura de pantalla de la imagen y cargó esa captura de pantalla en el mismo sitio de verificación, el sitio no encontró ninguna marca de agua y, por lo tanto, no hubo evidencia de que la imagen fuera generada por IA. IEEE Spectrum ¿Existe una mejor manera de identificar contenido generado por IA? El anuncio de Meta afirma que está «trabajando arduamente para desarrollar clasificadores que puedan ayudar… a detectar automáticamente contenido generado por IA, incluso si el contenido carece de marcadores invisibles». Es bueno que la compañía esté trabajando en ello, pero hasta que tenga éxito y comparta esta tecnología con toda la industria, nos quedaremos estancados preguntándonos si todo lo que vemos o escuchamos en línea es real. Para una solución más inmediata, la industria podría adoptar marcas de agua de máxima indelebilidad, es decir, marcas de agua que sean lo más difíciles de eliminar posible. Las marcas de agua imperfectas de hoy generalmente adjuntan información a un archivo en forma de metadatos. Para que las marcas de agua máximamente indelebles ofrezcan una mejora, deben ocultar información de manera imperceptible en los píxeles reales de las imágenes, las formas de onda del audio (Google Deepmind afirma haber hecho esto con su marca de agua patentada SynthID) o mediante patrones de frecuencia de palabras ligeramente modificados en IA. texto generado. Usamos el término «máximo» para reconocer que es posible que nunca exista una marca de agua perfectamente indeleble. Sin embargo, esto no es un problema sólo con las marcas de agua. El célebre experto en seguridad Bruce Schneier señala que “la seguridad informática no es un problema que tenga solución…. La seguridad siempre ha sido una carrera armamentista, y siempre lo será”. En términos metafóricos, es instructivo considerar la seguridad del automóvil. Ningún fabricante de automóviles ha producido jamás un coche que no pueda estrellarse. Sin embargo, eso no ha impedido que los reguladores implementen estándares de seguridad integrales que exigen cinturones de seguridad, bolsas de aire y cámaras retrovisoras en los automóviles. Si esperáramos a que se perfeccionaran las tecnologías de seguridad antes de exigir la implementación de las mejores opciones disponibles, estaríamos mucho peor en muchos ámbitos. Hay un impulso político cada vez mayor para abordar los deepfakes. Quince de las mayores empresas de IA, incluidas casi todas las mencionadas en este artículo, firmaron los Compromisos Voluntarios de IA de la Casa Blanca el año pasado, que incluían promesas de “desarrollar mecanismos sólidos, incluidos sistemas de procedencia y/o marcas de agua para contenido de audio o visual”. y «desarrollar herramientas o API para determinar si un contenido en particular se creó con su sistema». Desafortunadamente, la Casa Blanca no fijó ningún cronograma para los compromisos voluntarios. Luego, en octubre, la Casa Blanca, en su Orden Ejecutiva sobre IA, definió las marcas de agua de IA como “el acto de incrustar información, que normalmente es difícil de eliminar, en los resultados”. creado por IA, incluso en productos como fotografías, videos, clips de audio o texto, con el fin de verificar la autenticidad del producto o la identidad o características de su procedencia, modificaciones o transporte”. En la conferencia celebrada el 16 de febrero, un grupo de 20 empresas tecnológicas (la mitad de las cuales había firmado previamente los compromisos voluntarios) firmaron un nuevo “Acuerdo tecnológico para combatir el uso engañoso de la IA en las elecciones de 2024”. Sin asumir ningún compromiso concreto ni establecer cronogramas, el acuerdo ofrece una vaga intención de implementar algún tipo de marca de agua o esfuerzos de procedencia del contenido. Aunque no se especifica un estándar, el acuerdo enumera tanto a C2PA como a SynthID como ejemplos de tecnologías que podrían adoptarse. ¿Podrían ayudar las regulaciones? Hemos visto ejemplos de fuertes reacciones contra los deepfakes. Tras las llamadas automáticas de Biden generadas por IA, el Departamento de Justicia de New Hampshire inició una investigación en coordinación con socios estatales y federales, incluido un grupo de trabajo bipartidista formado por los 50 fiscales generales estatales y la Comisión Federal de Comunicaciones. Mientras tanto, a principios de febrero, la FCC aclaró que las llamadas que utilizan IA de generación de voz se considerarán artificiales y estarán sujetas a restricciones según las leyes existentes que regulan las llamadas automáticas. Desafortunadamente, no tenemos leyes que obliguen a los desarrolladores de IA ni a las empresas de redes sociales a actuar. El Congreso y los estados deberían exigir que todos los productos de IA generativa incorporen marcas de agua lo más indelebles posible en su contenido de imagen, audio, video y texto utilizando tecnología de punta. También deben abordar los riesgos de los sistemas no seguros de “fuente abierta” a los que se les puede desactivar la funcionalidad de marcas de agua o usarse para eliminar marcas de agua de otros contenidos. Además, se debe alentar a cualquier empresa que fabrique una herramienta de inteligencia artificial generativa a lanzar un detector que pueda identificar, con la mayor precisión posible, cualquier contenido que produzca. Esta propuesta no debería ser controvertida, ya que sus lineamientos generales ya han sido acordados por los firmantes de los compromisos voluntarios y el reciente acuerdo electoral. Las organizaciones de estándares como C2PA, el Instituto Nacional de Estándares y Tecnología y la Organización Internacional de Normalización deberían También avanzar más rápido para generar consenso y publicar estándares para marcas de agua y etiquetado de contenido máximamente indelebles en preparación para las leyes que requieren estas tecnologías. Google, como miembro más reciente del comité directivo de C2PA, también debería actuar rápidamente para abrir su aparentemente mejor tecnología de marca de agua SynthID a todos los miembros para que la prueben. La desinformación y el engaño a los votantes no son nada nuevo en las elecciones. Pero la IA está acelerando las amenazas existentes a nuestra ya frágil democracia. El Congreso también debe considerar qué medidas puede tomar para proteger nuestras elecciones en términos más generales de quienes buscan socavarlas. Eso debería incluir algunas medidas básicas, como aprobar la Ley de Prácticas Engañosas e Intimidación de Votantes, que haría ilegal mentir deliberadamente a los votantes sobre la hora, el lugar y la forma de las elecciones con la intención de impedirles votar en el período anterior. una elección federal. El Congreso ha sido lamentablemente lento a la hora de emprender una reforma democrática integral ante las recientes conmociones. La posible amplificación de estos shocks a través del abuso de la IA debería ser suficiente para lograr finalmente que los legisladores actúen. Artículos de su sitio Artículos relacionados en la Web
Source link
Etiqueta: deepfakes
Google se une a una coalición destinada a combatir los deepfakes generados por IA | Daily Telegraph Reproduciendo ahora
La Unión Europea está tomando medidas para criminalizar el uso de inteligencia artificial (IA) para generar imágenes de abuso sexual infantil y contenido falso. La Comisión Europea anunció que las imágenes generadas por IA y otras formas de deepfakes que representan abuso sexual infantil (ASI) pueden estar tipificadas como delito en la UE. Hay planes para actualizar la legislación existente para mantener el ritmo de los avances tecnológicos. El bloque europeo está preparado para garantizar que se convierta en un delito penal producir dicho contenido. Imágenes de abuso sexual infantil generadas por IA La UE cree que los niños son en gran medida inocentes y que la sociedad necesita protegerlos. La proliferación de imágenes de abuso sexual infantil generadas por IA ha generado serias preocupaciones. Las preocupaciones giran en torno a la posibilidad de que estas imágenes inunden Internet. Si bien las leyes existentes en los EE. UU., el Reino Unido y otros lugares consideran que la mayoría de estas imágenes son ilegales, las fuerzas del orden enfrentan desafíos para combatirlas. Se insta a la Unión Europea a fortalecer las leyes para facilitar la lucha contra los abusos generados por la IA. El objetivo es prevenir la revictimización de víctimas de abusos anteriores. Penalización del contenido generado por IA La UE se dispone a penalizar el intercambio de imágenes gráficas generadas por IA. Esto incluye imágenes de abuso sexual infantil, pornografía de venganza y contenido falso. Según Politico, este plan se materializará plenamente en ley a mediados de 2027. Esta decisión se produce a raíz de incidentes como la creación de imágenes gráficas falsas generadas por IA de una popular superestrella del pop, Taylor Swift, que circularon ampliamente en medios de comunicación social. La UE también ha propuesto convertir la transmisión en vivo de abuso sexual infantil en un nuevo delito penal. Además, el plan penalizará la posesión y el intercambio de “manuales de pedófilos”. Como parte de las medidas más amplias, la UE dice que apuntará a fortalecer la prevención de la ASI. La UE busca crear conciencia sobre los riesgos en línea y brindar apoyo a las víctimas. También quiere facilitar que las víctimas denuncien delitos y tal vez ofrecer compensación financiera por casos verificados de ASI. Antes de presentar la propuesta, el comité también llevó a cabo una evaluación de impacto. Concluyó que el aumento en el número de niños en línea y “los últimos desarrollos tecnológicos” crearon nuevas oportunidades para que se produjera la CSA. Las diferencias en los marcos legales de los estados miembros pueden obstaculizar la acción para combatir el abuso, por lo que la propuesta tiene como objetivo alentar a los estados miembros a invertir más en “crear conciencia” y “reducir la impunidad que impregna el abuso sexual y la explotación de niños en línea”. La UE espera mejorar los esfuerzos “limitados” actuales para prevenir la ASI y ayudar a las víctimas. Gizchina Noticias de la semana Legislación previa de la UE relacionada con la CSA En mayo de 2022, la UE presentó un borrador separado de legislación relacionada con la CSA. Su objetivo es establecer un marco que requeriría que los servicios digitales utilicen tecnología automatizada para detectar y denunciar abusos sexuales infantiles existentes o nuevos. También quiere que estos casos nuevos o existentes se informen rápidamente para tomar las medidas pertinentes. El programa de escaneo CSAM (Material de Abuso Sexual Infantil) ha resultado controvertido. Continúa dividiendo a los legisladores en el Parlamento y el Consejo de la UE. Esta división genera sospechas sobre la relación entre la Comisión Europea y los cabilderos de la tecnología de seguridad infantil. Menos de dos años después de que se propusiera el esquema de escaneo de información privada, las preocupaciones sobre los riesgos de los deepfakes y las imágenes generadas por IA también han aumentado drásticamente. Esto incluye preocupaciones de que la tecnología pueda usarse indebidamente para producir CSAM. También existe la preocupación de que el contenido falso pueda hacer que a las autoridades les resulte más difícil identificar a las víctimas reales. Por eso, el auge viral de la tecnología generada por IA está impulsando a los legisladores a revisar las reglas. Al igual que con el programa de escaneo CSAM, los colegisladores del Parlamento y el Consejo de la UE decidirán la forma final de la propuesta. Pero es probable que la propuesta represiva de la CSA de hoy sea mucho menos divisiva que el plan de escaneo de información. Por lo tanto, es más probable que este plan se apruebe mientras otro plan sigue estancado. Según la Comisión, una vez que se alcance un acuerdo sobre cómo modificar la actual directiva para combatir la CSA, ésta entrará en vigor 20 días después de su publicación en el Diario Oficial de la Unión Europea. Para entonces, el proyecto de ley proporcionará importantes garantías para la prevención del abuso sexual infantil causado por la IA y la protección de las víctimas. Implicaciones legales El uso de IA para producir material de abuso sexual infantil ha provocado debates sobre la legalidad de tales acciones. Casos recientes, como el arresto de una persona en España por utilizar software de imágenes de inteligencia artificial para generar material “muy falso” sobre abuso infantil, han provocado debates sobre el tratamiento legal de dicho material. Las leyes penales existentes contra la pornografía infantil se aplican al contenido generado por IA. Se están realizando esfuerzos para abordar las complejidades legales que rodean el uso de la IA con fines nefastos. Desafíos y soluciones La amplia disponibilidad de herramientas de inteligencia artificial ha facilitado la creación de contenido falso, incluidas imágenes de abuso sexual infantil. Esto ha presentado desafíos para las fuerzas del orden y los proveedores de tecnología a la hora de combatir la proliferación de dicho contenido. Se están realizando esfuerzos para desarrollar soluciones técnicas, como entrenar modelos de IA para identificar y bloquear imágenes AI CSA. Aunque estas soluciones conllevan su propio conjunto de desafíos y daños potenciales. Palabras finales La decisión de la UE de penalizar el uso de la IA para generar imágenes de abuso sexual infantil y contenido falso refleja la creciente preocupación sobre la posibilidad de que la IA sea utilizada indebidamente con fines nefastos. Esta decisión marca un paso significativo hacia la solución de estos problemas. Sin embargo, también destaca los desafíos legales y técnicos asociados con la lucha contra la proliferación de contenido falso y abusivo generado por IA. Descargo de responsabilidad: Es posible que algunas de las empresas de cuyos productos hablamos nos compensen, pero nuestros artículos y reseñas son siempre nuestras opiniones honestas. Para obtener más detalles, puede consultar nuestras pautas editoriales y conocer cómo utilizamos los enlaces de afiliados.
Como editores de IEEE Spectrum, nos enorgullecemos de detectar tecnologías prometedoras y seguirlas desde la fase de investigación hasta el desarrollo y, en última instancia, la implementación. En cada edición de enero, nos centramos en las tecnologías que ahora están preparadas para alcanzar hitos importantes en el nuevo año. Este número fue curado por el editor senior Samuel K. Moore, nuestro experto interno en semiconductores. Por eso no sorprende que haya incluido una historia sobre el plan de Intel para lanzar dos tecnologías de chips trascendentales en los próximos meses. Para “Intel espera superar a sus competidores”, Moore pidió a nuestra pasante editorial, Gwendolyn Rak, que informara sobre el riesgo que está asumiendo el gigante de los chips al introducir dos tecnologías a la vez. Comenzamos a rastrear la primera tecnología, los transistores nanosheet, en 2017. Cuando brindamos todos los detalles en un artículo destacado de 2019, estaba claro que este dispositivo estaba destinado a ser el sucesor del FinFET. Moore detectó por primera vez la segunda tecnología, la entrega de energía trasera, en la Reunión Internacional de Dispositivos Electrónicos del IEEE en 2019. Menos de dos años después, Intel se comprometió públicamente a incorporar la tecnología en 2024. Hablando de compromiso, los Proyectos de Investigación Avanzada de Defensa del ejército de EE. UU. La agencia ha desempeñado un papel enorme en la financiación de algunos de los avances fundamentales que aparecen en estas páginas. Muchos de nuestros lectores estarán familiarizados con los robots que el editor senior Evan Ackerman cubrió durante el desafío humanoide de DARPA hace casi 10 años. Esos robots eran esencialmente proyectos de investigación, pero, como informa Ackerman en “El año del humanoide”, algunas empresas iniciarán proyectos piloto en 2024 para ver si esta generación de humanoides está lista para arremangarse metafóricamente y ponerse manos a la obra. Más recientemente, el cifrado totalmente homomórfico (FHE) ha irrumpido en escena. Moore, que ha estado cubriendo la explosión cámbrica en arquitecturas de chips para IA y otras modalidades informáticas alternativas desde mediados de la adolescencia, señala que, al igual que el desafío de la robótica, DARPA fue el impulsor inicial. «Uno esperaría que las tres empresas financiadas por DARPA crearan un chip, aunque no había garantía de que lo comercializarían», dice Moore, quien escribió «Están llegando chips para computar con datos cifrados». «Pero lo que no se esperaría es que tres nuevas empresas más, independientemente de DARPA, lancen sus propios chips FHE al mismo tiempo». La historia del editor senior Tekla S. Perry sobre los OLED fosforescentes, “Un cambio detrás de las pantallas para OLED”, es en realidad un corte profundo para nosotros. Uno de los primeros artículos que Moore editó en Spectrum allá por el año 2000 fue el artículo de Stephen Forrest sobre electrónica orgánica. Su laboratorio desarrolló los primeros materiales OLED fosforescentes, que son mucho más eficientes que los fluorescentes. Forrest fue uno de los fundadores de Universal Display Corp., que ahora, después de más de dos décadas, finalmente ha comercializado el último de su trío de colores fosforescentes: el azul. Luego está nuestro artículo de portada sobre los deepfakes y su impacto potencial en docenas de elecciones nacionales a finales de este año. Hemos estado siguiendo el aumento de los deepfakes desde mediados de 2018, cuando publicamos una historia sobre investigadores de inteligencia artificial que apostaban sobre si un video deepfake sobre un candidato político recibiría más de 2 millones de visitas durante las elecciones intermedias de EE. UU. de ese año. Como informa la editora senior Eliza Strickland en “Este año electoral, busque credenciales de contenido”, varias empresas y grupos industriales están trabajando arduamente para garantizar que los deepfakes no destruyan la democracia. Mis mejores deseos para un año nuevo próspero y saludable, y disfrute de las previsiones tecnológicas de este año. Han pasado años preparándolo. Este artículo aparece en la edición impresa de enero de 2024.
Source link