Lo que necesita saberMeta planea etiquetar imágenes generadas por IA de otras empresas, aumentando la transparencia en plataformas como Facebook, Instagram y Threads. Está colaborando con socios de la industria para crear herramientas para detectar contenido creado por IA, centrándose en marcadores invisibles como marcas de agua. y metadatos. Meta planea comenzar a aplicar etiquetas en varios idiomas, particularmente a medida que se produzcan elecciones importantes en todo el mundo en los próximos meses. Meta dice que pondrá etiquetas en imágenes creadas por IA de otras compañías, como OpenAI y Google. Nick Clegg, global de Meta presidente de asuntos, escribió en una publicación de blog que la compañía quiere ser más transparente en plataformas como Facebook, Instagram y Threads cuando se trata de IA generativa. El plan es informar a los usuarios cuándo las imágenes que ven son generadas por IA. Con muchos países preparándose para las elecciones de 2024, todos tienen los ojos puestos en cómo Meta manejará las noticias falsas en sus plataformas. A medida que la IA generativa se vuelve más fácil de uso, están apareciendo imágenes falsas en las redes sociales que pretenden ser reales. Meta planea abordarlo detectando y etiquetando imágenes de IA en sus plataformas, incluso si están hechas por otras compañías. Meta ya coloca etiquetas «Imaginado con IA» en sus propias imágenes fotorrealistas creadas por IA, y ahora quiere hacerlo. también para imágenes de otras herramientas de inteligencia artificial. El truco con las imágenes de IA de Meta es que tienen marcadores visibles, marcas de agua ocultas y metadatos en los archivos para indicar que son creaciones de IA. Según Clegg, Meta se está asociando con socios de la industria para crear herramientas que puedan detectar IA. creó contenido utilizando «marcadores invisibles» como marcas de agua y metadatos. El objetivo es fijar estos marcadores a escala para que cuando las imágenes de Google, OpenAI, Microsoft, Adobe, Midjourney y Shutterstock se compartan en una plataforma Meta, obtengan la etiqueta adecuada. «Estamos desarrollando esta capacidad ahora, y en En los próximos meses comenzaremos a aplicar etiquetas en todos los idiomas admitidos por cada aplicación», escribe Clegg. «Vamos a adoptar este enfoque durante el próximo año, durante el cual se llevarán a cabo una serie de elecciones importantes en todo el mundo». (Crédito de la imagen: Meta) En cuanto a los videos y audio creados por IA, Clegg menciona que las empresas no han abandonado en tantas señales ocultas como imágenes. Por lo tanto, Meta todavía no puede capturar videos y audio producidos por otras herramientas de IA. Dicho esto, Meta introducirá una función que permitirá a los usuarios revelar cuándo comparten videos o audio creados por IA. Si tiene video o audio realista que ha sido modificado o modificado digitalmente, se le solicitará que utilice esta herramienta de divulgación. Meta podría imponer algunas sanciones si olvidas hacerlo. Según Clegg, si estás manipulando imágenes, vídeos o audio de una manera que pueda engañar seriamente a la gente en asuntos importantes, Meta le pondrá una etiqueta más destacada. Para evitar que los usuarios se escabullen y eliminen esos marcadores, el laboratorio de investigación FAIR AI de Meta desarrolló un sistema que integra el mecanismo de marca de agua en el proceso de generación de imágenes para ciertos generadores, lo que resulta útil para los modelos de código abierto para evitar que la marca de agua se apague. Meta dice que se apegará a su colaboración con socios y mantendrá la discusión con los gobiernos a medida que la IA generativa se vuelva más común.

Source link