Cuando OpenAI estrenó su nueva tecnología de asistente de voz este mes, inmediatamente generó comparaciones con la película de ciencia ficción de 2013 de Spike Jonze, “Her”. Resulta que el parecido puede haber sido demasiado cercano para la comodidad. La actriz Scarlett Johansson, quien prestó su voz al programa de computadora en “Her”, dijo que contrató abogados después de descubrir que OpenAI lanzó una voz de ChatGPT que sonaba inquietantemente similar a la suya sin que ella diera permiso. En una declaración del lunes, Johansson dijo que el director ejecutivo de OpenAI, Sam Altman, se acercó a ella en septiembre para que prestara su voz al sistema ChatGPT 4.0, pero ella se negó a participar. Altman había insistido en que Johansson prestara su voz a la aplicación porque “sentía que mi voz sería reconfortante para la gente”, dijo Johansson en su declaración. Pero después de que ella se negó, se enojó y se sorprendió al escuchar una voz utilizada en una demostración por OpenAI que sonaba como la suya. Dos días antes de la demostración, Johansson dijo que Altman contactó a su agente para pedirle a la actriz que reconsiderara su decisión. En la película “Her”, Johansson interpreta a “Samantha”, la voz incorpórea de una computadora que brinda amistad y, eventualmente, amor a un hombre solitario interpretado por Joaquin Phoenix. “En un momento en el que todos estamos lidiando con deepfakes y la protección de nuestra propia imagen, nuestro propio trabajo, nuestras propias identidades, creo que estas son preguntas que merecen una claridad absoluta”, dijo Johansson en un comunicado. “Espero una resolución en forma de transparencia y la aprobación de la legislación adecuada para ayudar a garantizar que se protejan los derechos individuales”. OpenAI dijo el lunes que está pausando el uso de la voz conocida como “Sky”, que algunas personas dicen que suena como Johansson. “Hemos escuchado preguntas sobre cómo elegimos las voces en ChatGPT, especialmente Sky”, publicó OpenAI en X el lunes. “Estamos trabajando para pausar el uso de Sky mientras las abordamos”. Altman pareció invitar a hacer paralelismos con la película en su anuncio de la función de voz interactiva, diciendo en una publicación de blog que «se siente como la IA de las películas». «Her» fue nominada a múltiples premios Oscar, y Jonze ganó el premio de la Academia por guión original. El 13 de mayo, Altman publicó la palabra «her» en X, que muchos observadores interpretaron como una referencia directa a la película ganadora del Oscar. A pesar del sorprendente parecido sonoro, OpenAI dijo que Johansson en realidad no proporcionó la voz de Sky, una de las múltiples opciones de voz disponibles en la aplicación. En cambio, otra actriz estaba usando su propia «voz natural», dijo OpenAI en una publicación de blog del lunes. «Creemos que las voces de IA no deben imitar deliberadamente la voz distintiva de una celebridad», dijo la compañía. Altman en un comunicado dijo que la compañía había elegido al actor de doblaje detrás de la voz de Sky antes de comunicarse con Johansson. «La voz de Sky no es la de Scarlett Johansson, y nunca tuvo la intención de parecerse a la de ella», dijo Altman en un comunicado. “Por respeto a la Sra. Johansson, hemos dejado de usar la voz de Sky en nuestros productos. Lamentamos que no nos hayamos comunicado mejor”. La controversia llega en un momento en el que se han planteado inquietudes dentro de la industria del entretenimiento sobre si se utiliza material con derechos de autor para entrenar modelos de IA. OpenAI ha dicho que sus grandes modelos de lenguaje, incluidos los que impulsan ChatGPT, se desarrollan a través de información disponible públicamente en Internet; material adquirido a través de licencias con terceros; y datos que proporcionan sus usuarios y “entrenadores humanos”. La empresa ha dicho que cree que entrenar modelos de IA con materiales disponibles públicamente en Internet es un “uso justo”. Pero algunos medios de comunicación, incluido el New York Times, han demandado a OpenAI, preocupados por cómo la empresa tecnológica utiliza sus historias. Sony Music Group está en proceso de enviar cientos de cartas a desarrolladores de IA y servicios de transmisión de música, incluidos OpenAI y Google, advirtiéndoles de que no utilicen la música de sus artistas para entrenar herramientas de IA generativa sin su permiso. Los actores y escritores también han expresado su preocupación por el impacto de la IA en sus medios de vida. Las agencias de talentos están siendo proactivas en la protección de sus clientes contra el uso no autorizado de su imagen y voz. Creative Artists Agency, con sede en Century City, está ayudando a los clientes a través de Vault, que escanea los cuerpos de los clientes y registra sus movimientos y voces para crear una versión digital de ellos para protegerlos contra la infracción de los derechos de autor. Johansson es cliente de CAA. CAA se negó a hacer comentarios. OpenAI dijo que las voces para ChatGPT, llamadas Breeze, Cove, Ember, Juniper y Sky, son de actores de doblaje que pasaron por un proceso de audición. Más de 400 personas se postularon. Algunas de las características que OpenAI buscaba incluyen «una voz que se sienta atemporal» y «una voz accesible que inspire confianza». Los actores seleccionados vinieron a San Francisco para grabar sus voces en junio y julio de 2023, y sus voces se agregaron en septiembre de ese año, dijo la compañía. La compañía dijo que los actores fueron compensados con «tarifas superiores a las del mercado» y que estaban al tanto de las intenciones y el alcance del proyecto. “Para proteger su privacidad, no podemos compartir los nombres de nuestros locutores”, dijo OpenAI.
Etiqueta: material
Nuevo material aprovecha la luz desperdiciada para hacer que los paneles solares sean más eficientes | Daily Telegraph Reproduciendo ahora
Esta vez, en 2023, el mundo estaba cautivado por el auge del deslumbrante chatbot de OpenAI. ChatGPT estaba haciendo metástasis como una infección por hongos, acumulando decenas de millones de usuarios al mes. Se materializaron asociaciones multimillonarias y las inversiones llegaron a raudales. Las grandes empresas tecnológicas se unieron a la fiesta. Los generadores de imágenes de IA como Midjourney tomaron vuelo. Sólo un año después, el ambiente se ha ensombrecido. El sorpresivo despido y la rápida reinstalación del director ejecutivo de OpenAI, Sam Altman, le dio a la empresa un momento embarazoso en el que el emperador estaba desnudo. Las ganancias son escasas en todo el sector y los costos de computación están por las nubes. Pero hay un tema que cobra importancia por encima de todos y amenaza con devolver a la incipiente industria a la tierra: los derechos de autor. Las quejas legales que surgieron a lo largo del año pasado se han convertido en un coro atronador, y las empresas de tecnología dicen que ahora presentan una amenaza existencial para la IA generativa. (del tipo que puede producir escritura, imágenes, música, etc.). Si 2023 fue el año en el que el mundo se maravilló de los generadores de contenido de IA, 2024 puede ser el año en que los humanos que crearon las materias primas que hicieron posible ese contenido se venguen y tal vez incluso recuperen parte del valor generado por su trabajo. A finales de diciembre, el New York Times presentó una demanda explosiva contra Microsoft y OpenAI, alegando que “millones de sus artículos se utilizaron para entrenar chatbots automatizados que ahora compiten con el medio de comunicación como fuente de información confiable”. La demanda del Times se suma a muchas otras (demanda colectiva presentada por ilustradores, por el servicio fotográfico Getty Images, por George RR Martin y el Author’s Guild, por usuarios anónimos de redes sociales, por nombrar algunos), todas ellas alegando que las empresas que Las empresas que pueden beneficiarse de la IA generativa utilizaron el trabajo de escritores, reporteros, artistas y otras personas sin consentimiento ni compensación, infringiendo sus derechos de autor en el proceso. Nuestros experimentos hacen que sea casi seguro que estos sistemas en realidad están entrenando con material protegido por derechos de autor. — El científico cognitivo Gary Marcus Cada una de estas demandas tiene sus méritos, pero la entrada de la Dama Gris en la arena cambia el juego. Por un lado, el Times influye en la configuración de las narrativas nacionales. Por otro lado, la demanda del Times es singularmente condenatoria; está repleto de ejemplo tras ejemplo de cómo ChatGPT replica artículos de noticias casi palabra por palabra y ofrece respuestas a sus clientes de pago, sin atribución. No se trata solo de las demandas: el Congreso, los investigadores y los expertos en inteligencia artificial también están aumentando la presión. El miércoles, en una audiencia en el Congreso, senadores y representantes de la industria de los medios acordaron que las empresas de inteligencia artificial deberían pagar tarifas de licencia por el material que utilizan para entrenar sus modelos. «No sólo es moralmente correcto», dijo el senador Richard Blumenthal (demócrata por Connecticut), quien preside el subcomité que celebró la audiencia, según Wired. «Es un requisito legal». Mientras tanto, un apasionante estudio publicado recientemente en IEEE Spectrum, coescrito por el científico cognitivo y experto en IA Gary Marcus y el veterano de la industria cinematográfica Reid Southern, muestra que Midjourney y Dall-E, dos de los líderes en IA generadores de imágenes, fueron entrenados con material protegido por derechos de autor y pueden regurgitar ese material a voluntad, a menudo sin siquiera que se les solicite. “Nuestros experimentos hacen que sea casi seguro que estos sistemas en realidad están entrenando con material protegido por derechos de autor”, me dijo Marcus, algo que las empresas se han mostrado tímidas a la hora de aceptarlo explícitamente. «Las empresas no han sido nada claras en lo que utilizan, por lo que era importante establecer que están utilizando materiales protegidos por derechos de autor». También es importante: que las obras que infringen los derechos de autor salgan de los sistemas con poca insistencia. “No es necesario que le indiques que diga ‘crear C3P0’; simplemente puedes decir ‘dibujar un droide dorado’. O ‘fontanero italiano’: simplemente atraerá a Mario”. Esto tiene serias implicaciones para cualquiera que utilice los sistemas con fines comerciales. «Las empresas cuyas propiedades son infringidas (Mattel, Nintendo) se interesarán en esto», dice Marcus. “Pero el usuario también queda vulnerable: no hay nada en el resultado que diga cuáles son las fuentes. De hecho, el software no es capaz de hacerlo de forma fiable. Por lo tanto, los usuarios están en apuros y no tienen idea de si se está infringiendo o no”. También hay una sensación de impulso que está comenzando a generarse detrás de la simple noción de que los creadores deberían ser compensados por el trabajo que utilizan las empresas de inteligencia artificial valoradas en miles de millones. o decenas de miles de millones, o cientos de miles de millones de dólares, como lo son Google y Microsoft. La noción de que los sistemas de IA generativa son, en el fondo, “máquinas de plagio” se ha vuelto cada vez más extendida entre sus críticos, y las redes sociales están llenas de oprobio contra la IA. Pero no es probable que esas empresas de IA cedan. Vimos un presagio de cómo las empresas de IA responderían a las preocupaciones de derechos de autor en general el año pasado, cuando la firma del famoso capitalista de riesgo y evangelista de la IA Marc Andreessen argumentó que las empresas de IA quebrarían si tuvieran que pagar regalías de derechos de autor o derechos de licencia. Esta misma semana, los medios de comunicación británicos informaron que OpenAI ha presentado el mismo caso, buscando una exención de las reglas de derechos de autor en Inglaterra, alegando que la compañía simplemente no podría operar sin ingerir materiales protegidos por derechos de autor. “Porque hoy en día los derechos de autor cubren prácticamente todo tipo de expresión humana. —incluidas publicaciones de blogs, fotografías, publicaciones en foros, fragmentos de código de software y documentos gubernamentales—sería imposible entrenar los principales modelos de IA actuales sin utilizar materiales protegidos por derechos de autor”, argumentó OpenAI en su presentación ante la Cámara de los Lores. Tenga en cuenta que las declaraciones de Andreessen y OpenAI subrayan el valor del trabajo protegido por derechos de autor al argumentar que las empresas de IA no deberían tener que pagar por él. ¿Qué pueden hacer al respecto? Primero, alegan pobreza. Simplemente hay demasiado material disponible para compensar a todos los que contribuyeron a que su sistema funcionara y a que su valoración se disparara. “Una pequeña y pobre empresa rica valorada en 100.000 millones de dólares no puede permitírselo”, afirma Marcus. «No sé qué tan bien funcionará, pero eso es lo que están argumentando». Las compañías de inteligencia artificial también argumentan que lo que están haciendo cae dentro de la doctrina legal del uso legítimo (probablemente el argumento más fuerte que tienen). porque es transformador. Este argumento ayudó a Google a ganar en los tribunales contra los grandes editores de libros cuando copiaba libros en su enorme base de datos Google Books, y a derrotar las afirmaciones de que YouTube se estaba beneficiando al permitir a los usuarios alojar y difundir material sin licencia. A continuación, las empresas de inteligencia artificial argumentan que los derechos de autor- La violación de resultados como los descubiertos por Marcus, Southern y el New York Times son raros o son errores que van a ser corregidos. “Dicen: ‘Bueno, esto no sucede mucho. Necesitas dar indicaciones especiales.’ Pero las cosas que le preguntamos fueron bastante neutrales y aun así recibimos material protegido por derechos de autor, dice Marcus. “Ésta no es una cuestión secundaria menor: así es como se construyen los sistemas. Es existencial que estas empresas puedan utilizar esta cantidad de datos”. Finalmente, además de simplemente presentar argumentos en los tribunales y en declaraciones, las empresas de inteligencia artificial van a utilizar sus amplios recursos para ejercer presión entre bastidores y ejercer su poder. para ayudar a defender su caso. Una vez más, la industria de la IA generativa no está ganando mucho dinero todavía: el año pasado fue esencialmente una demostración masiva de producto para promocionar la tecnología. Y funcionó: los dólares de inversión llegaron a raudales. Pero eso no significa que las empresas de IA hayan descubierto formas de construir un modelo de negocio sostenible. Ya están operando bajo el supuesto de que no pagarán por cosas como materiales de capacitación, licencias o trabajo de los artistas. Por supuesto, no es de ninguna manera cierto que empresas como Google, Microsoft o incluso OpenAI no puedan permitirse el lujo de pagar. utilizar obras protegidas por derechos de autor, pero Silicon Valley está acostumbrado en este momento a eliminar de la ecuación la mano de obra y el costo de las obras creativas, y tiene pocas razones para pensar que no podría volver a hacerlo. Desde Uber hasta Spotify, los modelos de negocio de muchas de las mayores empresas tecnológicas de este siglo se han construido sobre el supuesto de que los costos laborales podrían recortarse o minimizarse. Y cuando las industrias creativas argumentaron que YouTube permitía que proliferaran materiales pirateados y sin licencia a expensas de los trabajadores, y respaldaron la Ley para detener la piratería en línea (SOPA) para combatirla, Google jugó un papel decisivo a la hora de detener el proyecto de ley, organizando mítines y campañas en línea, y presionando. los legisladores abandonen el barco. William Fitzgerald, socio de Worker Agency y ex miembro del equipo de políticas públicas de Google, me dice que ve que está tomando forma una campaña de presión similar para luchar contra los casos de derechos de autor, una que sigue el modelo del manual que Google ha utilizado con éxito. en el pasado: reunir a grupos y órganos de terceros, como la Cámara del Progreso, para impulsar la idea de que el uso de obras protegidas por derechos de autor para la IA generativa no es sólo un uso legítimo, sino algo que está siendo adoptado por los propios artistas, no todos los cuales están tan colgados. se ponen al día con cosas como querer que les paguen por su trabajo. Señala una carta abierta progenerativa de la IA firmada por artistas de la IA que, según uno de los artistas involucrados, fue organizada por Derek Slater, ex director de políticas de Google cuya empresa trabaja con Google, la misma persona que se atribuyó el mérito de organizar los esfuerzos anti-SOPA. Fitzgerald también ve las huellas de Google en la adopción por parte de Creative Commons del argumento de que el arte con IA es un uso legítimo, ya que Google es uno de los principales financiadores de la organización. “Es preocupante ver a Google desplegar las mismas tácticas de lobby que ha desarrollado a lo largo de los años para garantizar a los trabajadores no se les paga justamente por su trabajo”, dijo Fitzgerald. Y OpenAI le sigue de cerca. No sólo está adoptando un enfoque similar al de Google para evitar las quejas de derechos de autor, sino que también está contratando a las mismas personas: contrató a Fred Von Lohmann, ex director de política de derechos de autor de Google, como su principal abogado de derechos de autor. «Parece que OpenAI está replicando el manual de lobby de Google», afirma. «Han contratado a antiguos defensores de Google para aplicar el mismo manual que ha tenido tanto éxito para Google durante décadas». Sin embargo, esta vez las cosas son diferentes. Había una verdadera animosidad popular contra SOPA, que en ese momento se consideraba diseñada por Hollywood y la industria musical; Silicon Valley todavía era muy querido como un inventor benevolente del futuro, y muchos no veían cómo tener el trabajo de un artista subido a una plataforma de vídeo propiedad de los buenos en Internet podría ser perjudicial para sus intereses económicos. (¡Aunque muchos lo hicieron!) Sin embargo, ahora los trabajadores en el mundo digital están mejor preparados. Todos, desde los guionistas de Hollywood hasta los ilustradores independientes, los redactores publicitarios a tiempo parcial y los codificadores a tiempo completo, pueden reconocer el efecto material potencial de un sistema de inteligencia artificial generativo que puede absorber su trabajo, replicarlo y ofrecerlo a los usuarios por una tarifa mensual, pagada a un La corporación de Silicon Valley, no ellos. “Está pidiendo un regalo enorme”, dice Marcus. “Es el equivalente a una gran apropiación de tierras”. Ahora bien, hay muchos en Silicon Valley que, por supuesto, están genuinamente entusiasmados con el potencial de la IA, y muchos otros que son genuinamente ajenos a las cuestiones de economía política; que quieren ver los avances conseguidos lo antes posible y no se dan cuenta de cómo se utilizarán en la práctica estos sistemas de automatización del trabajo. A otros puede que simplemente no les importe. Pero para aquellos que sí lo hacen, Marcus dice que hay un camino sencillo a seguir. “Aquí hay una alternativa obvia: OpenAI dice que necesitamos todo esto o no podemos construir IA, ¡pero podrían pagar por ello!” «Queremos un mundo con artistas y escritores, después de todo», añade, un mundo que recompense el trabajo artístico, no un mundo en el que todo el dinero vaya a parar a la cima porque un puñado de empresas tecnológicas ganaron la apropiación del territorio digital. «Depende de los trabajadores de todo el mundo Para ver esto tal como es, organícese, eduque a los legisladores y luche para que se les pague de manera justa por su trabajo”, dice Fitzgerald. «Porque si no lo hacen, Google y OpenAI seguirán beneficiándose del trabajo y el contenido de otras personas durante mucho tiempo».
Source link