Decenas de manifestantes se reunieron frente a la oficina de OpenAI el lunes por la noche cuando los empleados salían del trabajo para terminar el día, manifestándose contra el desarrollo de inteligencia artificial de la compañía. La manifestación fue organizada por dos grupos, Pause AI y No AGI, que suplicaban abiertamente a los ingenieros de OpenAI que abandonaran su trabajo en sistemas avanzados de IA como el chatbot ChatGPT. El mensaje del colectivo fue claro desde el principio: detener el desarrollo de la inteligencia artificial que podría conducir a un futuro en el que las máquinas superen la inteligencia humana, conocida como inteligencia artificial general (AGI), y abstenerse de cualquier otra afiliación militar. El evento se organizó en parte como respuesta a que OpenAI eliminara el mes pasado un texto de su política de uso que prohibía el uso de IA con fines militares. Días después de que se modificara la política de uso, se informó que OpenAI había contratado al Pentágono como cliente. Evento VB The AI ​​Impact Tour – Nueva York Estaremos en Nueva York el 29 de febrero en asociación con Microsoft para discutir cómo equilibrar los riesgos y las recompensas de las aplicaciones de IA. Solicite una invitación al evento exclusivo a continuación. Solicitar una invitación “En [February 12]Exigiremos que OpenAI ponga fin a su relación con el Pentágono y no acepte ningún cliente militar”, decía la descripción del evento. «Si sus límites éticos y de seguridad pueden revisarse por conveniencia, no se puede confiar en ellos». VentureBeat habló con ambos organizadores de la protesta para obtener más información sobre lo que esperaban lograr con la manifestación y cómo sería el éxito desde la perspectiva de cada organización. «El objetivo de No AGI es crear conciencia de que, en primer lugar, realmente no deberíamos crear AGI», dijo a VentureBeat Sam Kirchener, director de No AGI. «En lugar de eso, deberíamos buscar cosas como la emulación de todo el cerebro que mantenga el pensamiento humano a la vanguardia de la inteligencia». Sam Kirchener (izquierda), fundador del grupo político No AGI, y Holly Elmore (derecha), organizadora de la protesta de Pause AI, se paran frente a la oficina de OpenAI en San Francisco para exigir que se detenga el desarrollo de la inteligencia artificial general. Holly Elmore, organizadora principal de Pause AI (EE. UU.), dijo a VentureBeat que su grupo quiere «una pausa global e indefinida en el desarrollo fronterizo de AGI hasta que sea seguro». Y añadió: “Sería muy feliz si terminaran su relación con los militares. Parece un límite realmente importante”. Creciente desconfianza en torno al desarrollo de la IA La protesta llega en un momento crítico en el discurso público sobre las implicaciones éticas de la IA. La decisión de OpenAI de modificar su política de uso y colaborar con el Pentágono ha provocado un debate sobre la militarización de la IA y sus posibles consecuencias. Los temores de los manifestantes se basan principalmente en el concepto de AGI: una inteligencia que podría realizar cualquier tarea intelectual que un ser humano pueda realizar, pero con una velocidad y escala potencialmente incomprensibles. La preocupación no es sólo la pérdida de empleos o la autonomía de la guerra; se trata de la alteración fundamental de la dinámica de poder y la toma de decisiones en la sociedad. “Si construimos AGI, existe el riesgo de que en un mundo post-AGI, perdamos mucho significado debido a lo que se llama la amenaza psicológica, donde AGI hace todo para todos. La gente no necesitará empleos. Y en nuestra sociedad actual, la gente obtiene mucho significado de su trabajo”, dijo Kirchener a VentureBeat. «La autogobernanza no es suficiente para estas empresas; realmente es necesaria una regulación externa», añadió Elmore, destacando la frecuencia con la que OpenAI ha rescindido las promesas que había hecho. “En junio, Sam Altman se jactaba de que la junta podría despedirlo, luego, en noviembre, no pudieron despedirlo. Ahora vemos que sucede algo similar con la política de uso. [and military contract]… ¿Cuál es el sentido de estas políticas, si en realidad no restringen a OpenAI para que no pueda hacer lo que quiera? Tanto Pause AI como No AGI comparten el objetivo común de detener AGI, pero sus métodos divergen. Pause AI está abierto a la idea de AGI si se puede desarrollar de forma segura, mientras que No AGI se opone firmemente a su creación, enfatizando las posibles amenazas psicológicas y la pérdida de significado en las vidas humanas. Ambos grupos dicen que esta probablemente no será su última protesta. Otras personas preocupadas por el riesgo de la IA pueden involucrarse a través de sus sitios y redes sociales. Pero por ahora Silicon Valley avanza, corriendo hacia un futuro desconocido de IA. La misión de VentureBeat es ser una plaza digital para que los tomadores de decisiones técnicas adquieran conocimientos sobre tecnología empresarial transformadora y realicen transacciones. Descubra nuestros Briefings.

Source link