Acabo de descubrir que soy parte de la revolución del chat con IA. Por favor, no me odien. Mi papel es el de autor de tres de los casi 200.000 libros que se introducen en el cerebro electrónico de LLaMa, el chatbot desarrollado y distribuido por Meta Platforms (anteriormente Facebook), en competencia con el más conocido ChatGPT. bots comercializados por OpenAI. Alex Reisner del Atlántico compiló una práctica herramienta de búsqueda para la base de datos, conocida como Books3, que brinda a los autores de todo el mundo la oportunidad de buscar sus nombres y decidir cómo pensar en los resultados. ¿Prohibiría la enseñanza (si esa es la palabra) de mis cuentos a las computadoras? Ni siquiera si pudiera. — Stephen King No lo he decidido por mí mismo; por un lado, estoy un poco molesto porque supuestamente sólo tres de mis siete libros se han utilizado para “entrenar” a LLaMa; por el otro, me dedico a reflexionar sobre cuánto debería valer mi contribución y ¿por qué no debería recibir un pago por ella? Las reacciones de otros autores, destacados y no tan destacados, han estado por todas partes. Algunos han expresado una indignación convincente. Incluyen a los novelistas John Grisham, George RR Martin, Scott Turow y otros que son miembros del Authors Guild y se encuentran entre los demandantes en una demanda por infracción de derechos de autor presentada contra OpenAI, y Sarah Silverman, demandante en una demanda similar contra Meta Platforms. Boletín Obtenga lo último de Michael Hiltzik Comentarios sobre economía y más de un ganador del Premio Pulitzer. Ingrese la dirección de correo electrónico Regístrate Es posible que ocasionalmente recibas contenido promocional de Los Angeles Times. Algunos han recurrido a las redes sociales para expresar su irritación o su absoluta furia, entre ellos Margaret Atwood y la novelista Lauren Groff. Luego está el grupo que pregunta: ¿cuál es el problema? Por ejemplo, Ian Bogost, autor o coautor de 10 libros, la mayoría sobre juegos, escribió un artículo reciente para Atlantic titulado “Mis libros se utilizaron para entrenar la IA generativa de Meta. Bien, también puede tener el próximo”. Finalmente, está Stephen King, cuya reacción ante una base de datos que enumera 87 de sus obras parece ser algo parecido a la resignación. “¿Prohibiría la enseñanza (si esa es la palabra) de mis historias a las computadoras?” el escribe. “Ni siquiera si pudiera. Bien podría ser el Rey Canuto, prohibiendo que suba la marea”. Antes de profundizar más en las cuestiones legales, desviémonos hacia lo que significa la base de datos y su uso en el contexto de la “IA generativa”, la categoría de tecnología a la que estos chatbots pertenecen. Como he escrito antes, para estos productos el término «inteligencia artificial» es un nombre inapropiado. No son inteligentes en el sentido en que los humanos y los animales lo son; simplemente están diseñados para parecer inteligentes ante un extraño que desconoce los procesos electrónicos que ocurren en su interior. De hecho, utilizar el mismo término distorsiona nuestra percepción de lo que están haciendo. No están aprendiendo en ningún sentido real, como por ejemplo creando percepciones del mundo que los rodea basándose en la información que ya tienen en sus circuitos. No son creativos en ningún sentido remotamente humano: «La creatividad no puede ocurrir sin sensibilidad», observa King, aunque cubre su apuesta respondiendo su propia pregunta sobre si los sistemas son creativos con las palabras: «Todavía no». los desarrolladores “entrenan” sus sistemas infundiéndoles billones de palabras y frases presentes en Internet o en bases de datos especializadas; Cuando un chatbot responde a su pregunta, convoca una serie probabilística de esas entradas para producir algo que se parezca (a menudo sorprendentemente) a lo que un humano podría producir. Pero es más que nada un simulacro del pensamiento humano, no el producto de la meditación. Lo gratificante de la revelación de que Books3 se ha utilizado para “entrenar” a LLaMa es que subraya cómo todo lo que arrojan los chatbots proviene, en esencia, de fuentes humanas. Aunque OpenAI se niega a revelar qué utiliza para “entrenar” ChatGPT, es casi seguro que esté haciendo algo similar. (Meta no ha reconocido formalmente el uso de Books3, pero la función de la base de datos fue revelada en un documento técnico por los desarrolladores de LLaMa en la empresa. Otro punto importante a tener en cuenta es que ninguna de esta capacitación ha permitido a los desarrolladores resolver los problemas más importantes y Un problema persistente con los chatbots: hacen las cosas mal, a menudo de manera espectacular. Cuando no pueden encontrar material factual para responder una pregunta, tienden a inventarla o citar irrelevancias; la semejanza de las respuestas con el pensamiento y el habla humanos induce a error a los usuarios. tomarlos al pie de la letra, lo que lleva a no pocas consecuencias embarazosas y costosas. Esto es endémico en el campo de la IA en general. Tan recientemente como el 20 de septiembre, la prestigiosa revista Nature se retractó de un artículo de investigadores de Google que había informado que un sistema de IA sólo necesitaba «Me tomó unas pocas horas diseñar chips de computadora que requirieron meses de trabajo por parte de diseñadores humanos. El autor del artículo supuestamente concluyó que era todo lo contrario. En mi caso, la triste verdad es que, por muy riguroso que fuera «entrenado» a LLaMa con mis libros, no Parece que no he aprendido mucho. De hecho, sus respuestas a mis preguntas demostraron que es tan idiota como sus primos de la familia de la IA generativa. Cuando le pregunté qué sabían sobre mí, su respuesta fue una mezcla de un biobox publicado en latimes.com, junto con la mención de tres libros, ninguno de los cuales figura en la base de datos Books3: uno que no es mío (aunque Me citan en sus notas finales) y dos que, por lo que puedo decir, no existen en absoluto. Sin embargo, sí me etiquetó como “un periodista consumado y muy respetado que ha hecho importantes contribuciones al campo del periodismo”, lo que sugiere que no carece del todo de sagacidad y buen juicio. Cuando le pedí a LLaMa que describiera los tres libros que están en la base de datos de Books3, sus respuestas se recopilaron a partir de textos repetitivos que podrían haber provenido de anuncios publicitarios en las portadas de los libros y de errores directos, incluso extraños. Eso nos lleva de nuevo a las preocupaciones planteadas en el mundo literario. Si las reacciones de los escritores establecidos parecen confusas, es principalmente porque la ley de derechos de autor es confusa. Esto es especialmente cierto cuando el tema es el “uso legítimo”, una exclusión de los derechos de autor que permite que partes de obras protegidas por derechos de autor se utilicen sin permiso. El uso legítimo es lo que permite citar fragmentos de obras publicadas en reseñas, resúmenes e informes de noticias. o trabajos de investigación, o para ser parodiados o reutilizados de una manera “transformadora”. ¿Qué es “transformador”? Como lo expresa un resumen de las bibliotecas de Stanford, “se han gastado millones de dólares en honorarios legales tratando de definir lo que califica… No existen reglas estrictas, sólo pautas generales y decisiones judiciales variadas”. Esto es así cuando surge una nueva tecnología, como la reproducción digital o, ahora, la formación de chatbots. La demanda presentada contra OpenAI por los novelistas y el Authors Guild afirma que OpenAI copió sus obras “al por mayor, sin permiso ni contraprestación”. [that is, payment]”, lo que equivale a un “robo sistemático a gran escala”. Los autores observan que la Oficina de Patentes de EE. UU. ha descubierto que la IA “el ‘entrenamiento’… casi por definición implica[s] la reproducción de obras enteras o de partes sustanciales de las mismas”. Dicen que «entrenar» es simplemente «un eufemismo que suena técnico para ‘copiar e ingerir'». Los autores dicen que los chatbots OpenAI «ponen en peligro la capacidad de los escritores de ficción para ganarse la vida», porque «permiten que cualquiera genere… … textos que de otro modo pagarían a los escritores para que los crearan”. Los robots “pueden escupir obras derivadas: material que se basa en, imita, resume o parafrasea las obras de los demandantes y daña el mercado de ellas”. Esas son afirmaciones cruciales, porque la interferencia con la comerciabilidad de una obra protegida por derechos de autor es un factor clave. factor que pesa en contra de una defensa de uso legítimo en los tribunales. Vale la pena mencionar que la invasión de la IA en el mercado de habilidades profesionales fue un factor clave en la reciente huelga de escritores de Hollywood, y lo sigue siendo para los actores que aún están en huelga. Las limitaciones al uso de la IA son una disposición importante del contrato que resolvió la huelga de escritores, y seguramente serán parte de cualquier acuerdo con los actores. La demanda presentada por Silverman y sus compañeros demandantes contra Meta sigue de cerca el caso del Authors Guild. Puede que no ayude a la defensa de Meta que Books3 sea en sí mismo un presunto producto de piratería; al menos algunas de las obras que contiene provienen de versiones ilícitas que circulan en la web. De hecho, un servidor de la base de datos la desconectó tras una denuncia de una organización danesa antipiratería. Meta, en su respuesta a la demanda de Silverman, sostiene que su uso de Books3 es «transformador por naturaleza y uso justo por excelencia». (Su moción para desestimar el caso está programada para ser escuchada por un juez federal en San Francisco el 16 de noviembre). La compañía dice que los demandantes no pueden señalar «ningún ejemplo» de la producción de LLaMa que reproduzca alguna parte de su trabajo. . Eso puede ser cierto, pero dependerá del juez Vincent Chhabria decidir si es relevante. Meta también implica que le está haciendo un favor al mundo al desarrollar las capacidades de LLaMa, que según dice se encuentran entre «los casos más claros de los beneficios potenciales sustanciales». La IA puede ofrecer servicios a escala a miles de millones de personas”. Si esto suena un poco a las defensas de Meta contra las acusaciones de que ha infringido la privacidad de sus usuarios con fines de lucro (que sólo proporciona información a otros que harán del mundo un lugar mejor) probablemente no sea un accidente. Bogost argumentó en el Atlántico que entrenar robots con material publicado y protegido por derechos de autor no debería requerir el permiso de sus creadores, y no es fundamentalmente diferente de lo que sucede cuando un lector recomienda un libro a un amigo o familiar. “Uno de los hechos (y placeres) de la autoría es que el trabajo de uno se utilizará de maneras impredecibles”, escribe. Pero en este contexto, eso es absurdo. Recomendar un libro no implica copiarlo. Incluso prestar o regalar un libro a otra persona es perfectamente lícito, ya que en algún momento del proceso se compró el libro y una parte del precio de compra acabó en el bolsillo del autor. Ese no es el caso en este caso. OpenAI y Meta son empresas comerciales que esperan ganar dinero con sus chatbots. En la medida en que utilicen material protegido por derechos de autor para desarrollar su funcionalidad, les deben algo a los creadores. Quizás ahora sé qué pensar sobre el uso de mis libros para “entrenar” estas máquinas, especialmente si nadie en la cadena Books3/Meta u OpenAI pagó por ellos. Puede ser difícil descubrir qué papel desempeñaron en la “capacitación”, pero sea cual fuere, no debería ser gratuito.
Source link
Etiqueta: gremio de autores
Cuando el novelista Douglas Preston comenzó a jugar con ChatGPT, le planteó un desafío al software de inteligencia artificial: ¿podría escribir un poema original basado en un personaje de algunos de sus libros? “Salió con este fantástico poema escrito en pentámetro yámbico”, Preston recordado. El resultado fue impresionante y preocupante. “Lo que realmente me sorprendió fue lo mucho que sabían sobre este personaje; mucho más de lo que podría haber obtenido de Internet”, dijo Preston. El escritor de aventuras sospechaba que el chatbot había absorbido de alguna manera su trabajo, presumiblemente como parte del proceso de entrenamiento mediante el cual un modelo de inteligencia artificial ingiere una gran cantidad de datos que luego sintetiza. en contenido aparentemente original. «Ese fue un sentimiento muy inquietante», dijo Preston, «no muy diferente a llegar a casa y descubrir que alguien ha estado en su casa y se ha llevado cosas». Esas preocupaciones llevaron a Preston a firmar una propuesta de demanda colectiva acusando a OpenAI , el desarrollador detrás de ChatGPT y un actor importante en la creciente industria de la inteligencia artificial, de infracción de derechos de autor. (OpenAI buscó recientemente una valoración de entre 80.000 y 90.000 millones de dólares). A Preston se le unen en la demanda una serie de otros autores de renombre, entre ellos John Grisham, Jonathan Franzen, Jodi Picoult y George RR Martin, el notoriamente lento para publicar al autor de “Juego de Tronos” quien, dice Preston, se unió a la demanda por frustración porque los fanáticos estaban usando ChatGPT para generar de manera preventiva el último libro de su serie. OpenAI, por su parte, ha sostenido que entrenar un sistema de IA se considera uso legítimo. protecciones, especialmente teniendo en cuenta el grado en que la IA transforma los datos de entrenamiento subyacentes en algo nuevo. En una declaración enviada por correo electrónico, un portavoz de OpenAI dijo a The Times que la empresa respeta los derechos de los autores y cree que deberían «beneficiarse de la tecnología de IA». «Estamos teniendo conversaciones productivas con muchos creadores de todo el mundo, incluido el Authors Guild, y hemos estado trabajando cooperativamente para comprender y discutir sus preocupaciones sobre la IA”, dijo el portavoz. «Somos optimistas y continuaremos encontrando formas mutuamente beneficiosas de trabajar juntos para ayudar a las personas a utilizar nuevas tecnologías en un rico ecosistema de contenido». Sin embargo, la industria editorial está retrocediendo al enfrentar un auge del software que le ha dado a cualquiera con WiFi la poder generar automáticamente grandes cantidades de texto. Además de la demanda de Preston, varios otros grupos de autores están llevando a cabo sus propias demandas colectivas contra OpenAI. «Todos se están dando cuenta de hasta qué punto sus datos, su información y su creatividad han sido absorbidos», dijo Ed Nawotka, editor de Publishers. Semanalmente. En la industria existe cierto grado de “pánico abyecto”. En un par de demandas recientes, Sarah Silverman acusó a OpenAI y a Meta (la empresa matriz de Facebook y un importante desarrollador de IA) de infracción de derechos de autor. Desde entonces, las dos compañías han presionado para que se desestime la mayoría de los casos de Silverman. Recientemente, en una demanda diferente, Paul Tremblay (“La cabaña del fin del mundo”) y Mona Awad (“Bunny”) demandaron a OpenAI por violaciones de derechos de autor; tratando de que también se desestime en su mayor parte, mientras que Michael Chabon (“El Sindicato de Policías Yiddish”) es un demandante en dos acciones legales adicionales que tienen como objetivo OpenAI y Meta, respectivamente. Y en julio pasado, el Authors Guild, un grupo comercial profesional , no un sindicato, envió a varias empresas de tecnología una carta abierta pidiendo consentimiento, crédito y una compensación justa cuando las obras de los escritores se utilicen para entrenar modelos de IA. Entre los firmantes se encontraban Margaret Atwood, Dan Brown, James Patterson, Suzanne Collins, Roxane Gay y Celeste Ng. Todo esto se suma a la huelga de casi cinco meses que emprendieron recientemente los guionistas de Hollywood y que condujo, entre otras cosas, a nuevas regulaciones. sobre el uso de IA para la generación de guiones. (Una huelga separada, aún en curso, ha encontrado a los actores de la pantalla reuniéndose en torno a sus propias preocupaciones sobre la IA). La demanda en la que está involucrado Preston, que presenta a otros 17 demandantes nombrados, incluido el Authors Guild, afirma que OpenAI copió las obras de los autores «sin permiso o consideración” para entrenar programas de inteligencia artificial que ahora compiten con esos autores por el tiempo y el dinero de los lectores. La demanda también cuestiona la generación de trabajos derivados de ChatGPT, o “material que se basa en, imita, resume o parafrasea [the] Los demandantes buscan daños y perjuicios por la pérdida de oportunidades de licencia y la “usurpación del mercado”, así como una orden judicial contra futuras prácticas de este tipo, en nombre de los autores de ficción estadounidenses cuyas obras protegidas por derechos de autor se utilizaron para entrenar el software OpenAI. “No nos pidieron permiso y no nos están compensando”, dijo Preston sobre OpenAI. “Lo que han hecho es crear un producto comercial muy valioso que puede reproducir nuestras voces. … Es básicamente un robo de nuestro trabajo creativo a gran escala”. Dado que los libros de los demandantes no están disponibles gratuitamente en la web abierta, añadió, OpenAI “casi con seguridad” accedió a ellos a través de supuestos sitios de piratería, como la plataforma de intercambio de archivos. LibGen. (La demanda reitera esta sospecha, atribuyéndola a «investigadores independientes de IA»). OpenAI se niega a responder una pregunta sobre si los libros de los demandantes formaban parte de los datos de entrenamiento de ChatGPT o si se accedía a ellos a través de sitios para compartir archivos como LibGen. En una declaración a la Oficina de Patentes y Marcas de EE. UU. citada en la demanda del Authors Guild, OpenAI afirmó que los sistemas modernos de IA a veces se entrenan con conjuntos de datos disponibles públicamente que incluyen obras protegidas por derechos de autor. The Atlantic ha informado que Meta, mientras tanto, entrenó a su competidor ChatGPT, LLaMA. en un corpus de libros electrónicos pirateados conocido como «Books3». Una versión de búsqueda de ese conjunto de datos indica que LLaMA se alimentó de libros escritos por casi todos los individuos nombrados como demandantes en las diversas demandas antes mencionadas. También se incluyeron los trabajos de los empleados del LA Times. Meta no respondió a una solicitud de comentarios de The Times sobre cómo se entrenó LLaMA. Dejando a un lado las fuentes específicas de los datos de entrenamiento, muchos autores están preocupados por dónde está liderando esta tecnología en su industria. Michael Connelly, autor de la serie de Harry Bosch de novelas policiales y otro demandante en la demanda del Authors Guild, enmarcó esas preocupaciones como una cuestión de control: “control de tu propio trabajo, de tu propia propiedad”. Connelly nunca llegó a decidir si sus libros se usarían para entrenar una IA, dijo. dijo, pero si le hubieran preguntado, incluso si hubiera dinero sobre la mesa, probablemente habría optado por no participar. La idea de que ChatGPT escriba una secuela no oficial de Bosch le parece una violación; Incluso cuando Amazon adaptó la serie a un programa de televisión, dice, tenía cierto control sobre los guiones y el reparto. “Estos personajes nos pertenecen”, dijo Connelly. “Salen de nuestra cabeza. Incluso puse cosas en mi testamento sobre [how] Ningún otro autor podrá llevar la antorcha de Harry Bosch después de que yo me haya ido. Él es mío y no quiero que nadie más cuente su historia. Ciertamente no quiero que una máquina lo diga”. Pero si la ley permitirá que las máquinas lo hagan es una cuestión diferente. Las diversas demandas contra OpenAI alegan violaciones de derechos de autor. Pero la ley de derechos de autor (y especialmente el uso legítimo, el área de la ley que rige cuándo el trabajo protegido por derechos de autor puede incorporarse a otros esfuerzos, como por ejemplo con fines educativos o críticos) todavía no ofrece una respuesta clara sobre cómo estos Las demandas se sacudirán. «Tenemos una especie de tira y afloja en este momento en la jurisprudencia», dijo el abogado de propiedad intelectual Lance Koonce, socio de la firma de abogados Klaris, señalando dos casos recientes de la Corte Suprema que ofrecen modelos competitivos. de uso legítimo. En uno, Authors Guild vs. Google, el tribunal sostuvo que a Google se le permitió digitalizar millones de libros protegidos por derechos de autor para que se pudieran buscar. En el otro, Andy Warhol Foundation for the Visual Arts Inc. vs. Goldsmith, el tribunal determinó que la incorporación por parte del artista pop titular de la obra de un fotógrafo a su propio arte no se consideraba uso legítimo porque el arte de Warhol era comercial y tenía el mismo propósito básico como la fotografía original. “Estos casos de IA, y especialmente el caso del Authors Guild [against OpenAI] — caer en esa tensión”, dijo Koonce. En su declaración de la oficina de patentes, OpenAI argumentó que entrenar software de inteligencia artificial en obras protegidas por derechos de autor “no debería, por sí solo, dañar el mercado o el valor de las obras protegidas por derechos de autor” porque las obras están siendo consumidas por software en lugar de personas reales. Fuera de las vías legales, las partes interesadas ya están proponiendo soluciones a esta tensión. Suman Kanuganti, director ejecutivo de la plataforma de mensajería de inteligencia artificial Personal.ai, dijo que la industria tecnológica probablemente adoptará algún tipo de estándar de atribución que permita a las personas que contribuir a que los datos de entrenamiento de una IA sean identificados y compensados. “Una vez que se construyen los modelos con unidades de datos conocidas y autenticadas, tecnológicamente no es un desafío”, dijo Kanuganti. “Y una vez que se resuelve ese problema… la asociación económica se vuelve más fácil”. Preston, el novelista de aventuras, estuvo de acuerdo en que todavía puede haber un camino a seguir. Otorgar licencias de libros a desarrolladores de software a través de una cámara de compensación centralizada podría proporcionar a los autores una nueva fuente de ingresos. Al mismo tiempo que garantiza datos de capacitación de alta calidad para las empresas de inteligencia artificial, dijo, y agregó que el Authors Guild intentó establecer un acuerdo de este tipo con OpenAI en un momento, pero que las dos partes no pudieron llegar a un acuerdo. (OpenAI se negó a discutir tales conversaciones). “Estábamos tratando de que se sentaran con nosotros de buena fe; No nos oponemos en absoluto a la IA”, afirmó Preston. «No es un juego de suma cero».
Source link