Google, cuyo trabajo en inteligencia artificial ayudó a que el contenido generado por IA fuera mucho más fácil de crear y difundir, ahora quiere asegurarse de que dicho contenido también sea rastreable. El gigante tecnológico dijo el jueves que se uniría a un esfuerzo para desarrollar credenciales para contenido digital. , una especie de «etiqueta nutricional» que identifica cuándo y cómo se produjo o modificó una fotografía, un vídeo, un clip de audio u otro archivo, incluso con IA. La empresa colaborará con empresas como Adobe, la BBC, Microsoft y Sony para multar -afinar los estándares técnicos. El anuncio sigue una promesa similar anunciada el martes por Meta, que al igual que Google ha permitido la fácil creación y distribución de contenido generado artificialmente. Meta dijo que promovería etiquetas estandarizadas que identificaran dicho material. Google, que pasó años invirtiendo dinero en sus iniciativas de inteligencia artificial, dijo que exploraría cómo incorporar la certificación digital en sus propios productos y servicios, aunque no especificó el momento ni el momento. alcance. Su chatbot Bard está conectado a algunos de los servicios al consumidor más populares de la compañía, como Gmail y Docs. En YouTube, propiedad de Google y que se incluirá en el esfuerzo de la credencial digital, los usuarios pueden encontrar rápidamente videos con avatares digitales realistas que pontifican sobre eventos actuales con voces impulsadas por servicios de texto a voz. Reconocer dónde se origina el contenido en línea y cómo cambia es una alta prioridad para los legisladores y los organismos de control tecnológico en 2024, cuando miles de millones de personas votarán en las principales elecciones en todo el mundo. Después de años de desinformación y polarización, las imágenes y el audio realistas producidos por inteligencia artificial y herramientas de detección de IA poco confiables hicieron que las personas dudaran aún más de la autenticidad de las cosas que veían y escuchaban en Internet. Configurar archivos digitales para que incluyan un registro verificado de su historia podría hacer que El ecosistema digital es más confiable, según quienes respaldan un estándar de certificación universal. Google se unirá al comité directivo de uno de esos grupos, la Coalición para la Procedencia y Autenticidad del Contenido, o C2PA. Los estándares C2PA han sido respaldados por organizaciones de noticias como The New York Times, así como por fabricantes de cámaras, bancos y agencias de publicidad. Laurie Richardson, vicepresidenta de confianza y seguridad de Google, dijo en un comunicado que la compañía esperaba que su trabajo » Proporcionar un contexto importante a las personas, ayudándolas a tomar decisiones más informadas”. Señaló los otros esfuerzos de Google para brindar a los usuarios más información sobre el contenido en línea que encontraron, incluido el etiquetado de material de inteligencia artificial en YouTube y la oferta de detalles sobre imágenes en la Búsqueda. Los esfuerzos para adjuntar credenciales a los metadatos (la información subyacente incrustada en los archivos digitales) no son impecables. .OpenAI dijo esta semana que sus herramientas de generación de imágenes de IA pronto agregarían marcas de agua a las imágenes de acuerdo con los estándares C2PA. A partir del lunes, dijo la compañía, las imágenes generadas por su chatbot en línea, ChatGPT, y la tecnología independiente de generación de imágenes, DALL-E, incluirán una marca de agua visual y metadatos ocultos diseñados para identificarlas como creadas por inteligencia artificial. Sin embargo, la medida “no es una solución milagrosa para abordar cuestiones de procedencia”, dijo OpenAI, y agregó que las etiquetas “pueden eliminarse fácilmente, ya sea accidental o intencionalmente”. (The New York Times Company está demandando a OpenAI y Microsoft por infracción de derechos de autor , acusando a las empresas de tecnología de utilizar artículos del Times para entrenar sistemas de inteligencia artificial). Existe «un sentido compartido de urgencia» para reforzar la confianza en el contenido digital, según una publicación de blog del mes pasado de Andy Parsons, director senior de Autenticidad de Contenido. Iniciativa en Adobe. La compañía lanzó herramientas de inteligencia artificial el año pasado, incluido su software de generación de arte con inteligencia artificial Adobe Firefly y una herramienta de Photoshop conocida como relleno generativo, que utiliza inteligencia artificial para expandir una fotografía más allá de sus fronteras. «Lo que está en juego nunca ha sido tan grande», dijo Parsons. escribió.Cade Metz contribuyó con el informe.

Source link