MirageC/Getty ImagesA medida que las falsificaciones profundas y los medios sintéticos se vuelven más comunes gracias a la inteligencia artificial generativa (gen AI), varias organizaciones están tratando de perfeccionar las marcas de agua digitales para determinar el origen de un contenido. Ninguna ha tenido éxito todavía, pero uno de esos grupos, la Coalición para la Procedencia y Autenticidad del Contenido (C2PA, por sus siglas en inglés), está reforzando sus filas. El viernes, C2PA anunció que Amazon se ha convertido en uno de los miembros del comité directivo de la organización. Parte de la familia Linux Foundation, C2PA se describe a sí misma como un «organismo de estándares técnicos abiertos que aborda la prevalencia de información engañosa en línea mediante el desarrollo de estándares técnicos para certificar la fuente y el historial (o procedencia) del contenido digital». Además: IBM lo capacitará en los fundamentos de la IA de forma gratuita y le otorgará una credencial de habilidad, en 10 horas. Adobe co-creó C2PA y ayudó a establecer Content Credentials, que C2PA ahora mantiene como un enfoque para hacer que los orígenes del contenido digital sean más transparentes. Las credenciales de contenido revelan cómo y cuándo se generó o modificó un fragmento de contenido. La coalición espera convertir las credenciales de contenido en un estándar para toda la industria. Al unirse a la coalición, Amazon acepta vincular las credenciales de contenido con el contenido generado por Titan Image Generator v1 y v2, su creador de imágenes de IA empresarial. «Con esta implementación de credenciales de contenido, los consumidores podrán verificar el origen y la autenticidad del contenido generado por IA». Además: McAfee lanza un detector de audio deepfake de IA, pero ¿qué tan confiable puede ser? La empresa también agregará la herramienta de procedencia a AWS Elemental MediaConvert, «un servicio de procesamiento de video basado en archivos que transcodifica contenido para transmisión y entrega multipantalla a escala», explica el comunicado. Esto significa que las organizaciones de noticias, los presentadores deportivos, los agregadores y otros clientes podrán verificar de dónde provienen los videos que están compartiendo antes de distribuirlos. «Todas las imágenes generadas por Amazon Titan contienen una marca de agua invisible de manera predeterminada, lo que proporciona un mecanismo discreto para ayudar a reducir la propagación de información errónea», dijo Vasi Philomin, vicepresidente de gen AI en AWS. «Unirnos a la C2PA y adoptar Content Credentials representa otro paso clave en nuestro viaje hacia la innovación responsable en IA». «La implementación de Content Credentials en herramientas y servicios que llegan tanto a las organizaciones de noticias como a los consumidores en general continúa con la misión de la C2PA de promover la transparencia en el ecosistema de medios digitales», dijo Andrew Jenks, presidente ejecutivo de la C2PA. Idealmente, la estandarización de Content Credentials reduciría la cantidad de información errónea que circula y confunde a los consumidores. Además: la mayoría de las personas se preocupan por las falsificaciones profundas y sobreestiman su capacidad para detectarlas Philomin agregó que Amazon planea «desarrollar herramientas significativas» para la seguridad de la IA en colaboración con otros miembros de la C2PA, que incluyen a Google, Meta, OpenAI, Microsoft, BBC e Intel, entre otros. Sin embargo, esa alineación repleta de estrellas es un problema inherente para algunos. En julio, el certificador de contenido digital Numbers Protocol, junto con otras organizaciones de inteligencia artificial y blockchain, fundó la Creative Origin Alliance, una «alternativa democrática, transparente y descentralizada» a C2PA en la que «todos los miembros tendrán voz y voto, y los creadores tendrán un lugar en la mesa». Además: Google actualiza la Búsqueda para combatir los deepfakes y degradar a los sitios que los publican La Alianza fue motivada por una actualización de los Términos de Servicio de Adobe que sugería que el trabajo de los usuarios podría usarse para entrenar a Firefly, la herramienta de imágenes de inteligencia artificial de Adobe, lo que hizo que la comunidad creativa digital se sintiera «presa de las grandes tecnológicas». Preocupada por los conflictos de intereses entre C2PA y fundadores como Adobe, la Alianza tiene como objetivo levantar voces más pequeñas en la industria, abogando por la privacidad y la tecnología de código abierto, posicionándose como David frente al Goliat de C2PA.