Sería fácil desestimar la demanda de Elon Musk contra OpenAI como un caso de uvas amargas. Musk demandó a OpenAI esta semana, acusando a la compañía de violar los términos de su acuerdo fundacional y violar sus principios fundacionales. Según su relato, OpenAI se estableció como una organización sin fines de lucro que construiría poderosos sistemas de inteligencia artificial para el bien de la humanidad y regalaría su investigación gratuitamente al público. Pero Musk sostiene que OpenAI rompió esa promesa al iniciar una filial con fines de lucro que recibió miles de millones de dólares en inversiones de Microsoft. Una portavoz de OpenAI se negó a comentar sobre la demanda. En un memorando enviado a los empleados el viernes, Jason Kwon, director de estrategia de la compañía, negó las afirmaciones de Musk y dijo: «Creemos que las afirmaciones de esta demanda pueden surgir del arrepentimiento de Elon por no estar involucrado con la compañía hoy», según a una copia del memorando que vi. En un nivel, la demanda apesta a problemas personales. Musk, quien fundó OpenAI en 2015 junto con un grupo de otros pesos pesados ​​de la tecnología y proporcionó gran parte de su financiamiento inicial, pero lo dejó en 2018 por disputas con el liderazgo, le molesta que lo dejen de lado en las conversaciones sobre IA. Sus propios proyectos de IA no han logrado mucho. tanta tracción como ChatGPT, el chatbot insignia de OpenAI. Y la pelea de Musk con Sam Altman, director ejecutivo de OpenAI, ha sido bien documentada. Pero en medio de toda la animadversión, hay un punto que vale la pena resaltar, porque ilustra una paradoja que está en el corazón de gran parte de la IA actual. conversación, y un lugar donde OpenAI realmente ha estado hablando con ambos lados de la boca, insistiendo en que sus sistemas de IA son increíblemente poderosos y que no están ni cerca de igualar la inteligencia humana. La afirmación se centra en un término conocido como AGI, o » inteligencia artificial general”. Definir qué constituye AGI es notoriamente complicado, aunque la mayoría de la gente estaría de acuerdo en que significa un sistema de IA que puede hacer la mayoría o todas las cosas que el cerebro humano puede hacer. Altman ha definido AGI como “el equivalente de un ser humano promedio que se podría contratar como compañero de trabajo”, mientras que OpenAI define AGI como “un sistema altamente autónomo que supera a los humanos en la mayoría de los trabajos económicamente valiosos”. Las empresas afirman que no sólo es posible construir AGI, sino que también es inminente. Demis Hassabis, director ejecutivo de Google DeepMind, me dijo en una entrevista reciente en un podcast que pensaba que AGI podría llegar tan pronto como en 2030. Altman ha dicho que AGI puede estar a solo cuatro o cinco años de distancia. Construir AGI es el objetivo explícito de OpenAI , y tiene muchas razones para querer llegar allí antes que nadie. Una verdadera AGI sería un recurso increíblemente valioso, capaz de automatizar grandes cantidades de trabajo humano y generar grandes cantidades de dinero para sus creadores. También es el tipo de objetivo brillante y audaz que a los inversores les encanta financiar y que ayuda a los laboratorios de IA a reclutar a los mejores ingenieros e investigadores. Pero la AGI también podría ser peligrosa si es capaz de ser más astuta que los humanos, o si se vuelve engañosa o desalineada con los valores humanos. A las personas que iniciaron OpenAI, incluido Musk, les preocupaba que una AGI fuera demasiado poderosa para ser propiedad de una sola entidad, y que si alguna vez estaban cerca de construir una, necesitarían cambiar la estructura de control a su alrededor. para evitar que haga daño o concentre demasiada riqueza y poder en manos de una sola empresa. Es por eso que, cuando OpenAI se asoció con Microsoft, específicamente le dio al gigante tecnológico una licencia que se aplicaba solo a las tecnologías «pre-AGI». . (El New York Times ha demandado a Microsoft y OpenAI por el uso de trabajos protegidos por derechos de autor). Según los términos del acuerdo, si OpenAI alguna vez construyera algo que cumpliera con la definición de AGI, según lo determinado por la junta sin fines de lucro de OpenAI, la licencia de Microsoft ya no se aplicaría. , y la junta directiva de OpenAI podría decidir hacer lo que quisiera para garantizar que la AGI de OpenAI beneficiara a toda la humanidad. Eso podría significar muchas cosas, incluyendo abrir el código fuente de la tecnología o apagarla por completo. La mayoría de los comentaristas de IA creen que los modelos de IA de vanguardia de hoy no califican como AGI porque carecen de habilidades de razonamiento sofisticadas y con frecuencia cometen errores estúpidos. Pero En su presentación legal, Musk presenta un argumento inusual. Sostiene que OpenAI ya logró AGI con su modelo de lenguaje GPT-4, que se lanzó el año pasado, y que la tecnología futura de la compañía calificará aún más claramente como AGI. «Según la información y la creencia, GPT-4 es un algoritmo AGI, y, por lo tanto, expresamente fuera del alcance de la licencia exclusiva de Microsoft de septiembre de 2020 con OpenAI”, se lee en la denuncia. Lo que Musk está argumentando aquí es un poco complicado. Básicamente, está diciendo que debido a que ha logrado AGI con GPT-4, OpenAI ya no puede otorgarle licencias a Microsoft, y que su junta directiva debe hacer que la tecnología y la investigación estén disponibles más libremente. Su queja cita el ahora infame » Sparks of AGI” escrito por un equipo de investigación de Microsoft el año pasado, que argumentaba que GPT-4 demostraba primeros indicios de inteligencia general, entre ellos signos de razonamiento a nivel humano. Pero la queja también señala que es poco probable que la junta directiva de OpenAI decida que su IA Los sistemas en realidad califican como AGI, porque tan pronto como lo hace, tiene que hacer grandes cambios en la forma en que implementa y se beneficia de la tecnología. Además, señala que Microsoft, que ahora tiene un puesto de observador sin derecho a voto en la junta directiva de OpenAI, después de una agitación el año pasado que resultó en el despido temporal del Sr. Altman) tiene un fuerte incentivo para negar que la tecnología de OpenAI califique como AGI. Eso pondría fin a su licencia para usar esa tecnología en sus productos y pondría en peligro ganancias potencialmente enormes. interés en mantener la puerta cerrada al público, la nueva junta capturada, conflictiva y obediente de OpenAI, Inc. tendrá todos los motivos para retrasar la determinación de que OpenAI ha alcanzado AGI”, se lee en la denuncia. «Por el contrario, la consecución de AGI por parte de OpenAI, como ‘Mañana’ en ‘Annie’, siempre estará a un día de distancia». Dado su historial de litigios cuestionables, es fácil cuestionar los motivos del Sr. Musk aquí. Y como director de una startup de IA competidora, no es sorprendente que quiera involucrar a OpenAI en un litigio complicado. Pero su demanda apunta a un verdadero enigma para OpenAI. Al igual que sus competidores, OpenAI desea desesperadamente ser visto como un líder en la carrera para construir AGI, y tiene un gran interés en convencer a los inversores, socios comerciales y al público de que sus sistemas son mejorando a un ritmo vertiginoso. Pero debido a los términos de su acuerdo con Microsoft, es posible que los inversores y ejecutivos de OpenAI no quieran admitir que su tecnología en realidad califica como AGI, si es que lo hace. Eso ha puesto a Musk en una posición extraña. de pedir a un jurado que se pronuncie sobre lo que constituye AGI y decida si la tecnología de OpenAI ha alcanzado el umbral. La demanda también ha colocado a OpenAI en la extraña posición de restar importancia a las capacidades de sus propios sistemas, mientras continúa alimentando la anticipación de que se está produciendo un gran avance en AGI. a la vuelta de la esquina. “GPT-4 no es un AGI”, escribió Kwon de OpenAI en el memorando a los empleados el viernes. «Es capaz de resolver pequeñas tareas en muchos trabajos, pero la proporción entre el trabajo realizado por un ser humano y el trabajo realizado por GPT-4 en la economía sigue siendo asombrosamente alta». La disputa personal que alimenta la queja de Musk ha llevado a algunas personas a considérelo como una demanda frívola (un comentarista la comparó con “demandar a su ex porque ella remodeló la casa después de su divorcio”) que rápidamente será desestimada. Pero incluso si se desestima, la demanda de Musk apunta a preguntas importantes: ¿Quién? ¿Debe decidir cuándo algo califica como AGI? ¿Las empresas de tecnología están exagerando o haciendo sacos de arena (o ambas cosas) cuando se trata de describir la capacidad de sus sistemas? ¿Y qué incentivos se esconden detrás de varias afirmaciones sobre qué tan cerca o lejos de AGI podríamos estar? Una demanda de un multimillonario rencoroso probablemente no sea la forma correcta de resolver esas preguntas. Pero es bueno preguntarlas, especialmente ahora que el progreso de la IA continúa acelerándose.

Source link