Tim O’Reilly me envió un excelente artículo sobre la telenovela OpenAI: «Money Stuff: Who Controls Open AI» de Matt Levine. Me saltaré la mayor parte, pero algo me llamó la atención. Hacia el final, Levine escribe sobre la versión de Elon Musk de la IA de Nick Bostrom que decide convertir el mundo en clips:

[Elon] Musk dio un ejemplo de una inteligencia artificial a la que se le ha asignado la tarea de recoger fresas. Parece bastante inofensivo, pero a medida que la IA se rediseña para ser más efectiva, podría decidir que la mejor manera de maximizar su producción sería destruir la civilización y convertir toda la superficie de la Tierra en campos de fresas. Aprende más rápido. Excavar más hondo. Ver más lejos. Eso me atrapa, pero no de la manera que piensas. Es personalmente conmovedor, por razones completamente diferentes de los cultos doomeristas de la IA que Musk, Bostrom y otros están propagando. Cuando era estudiante de posgrado en Stanford, conducía con un amigo por el interminable laberinto de estacionamientos y centros comerciales en esa parte anodina de Silicon Valley donde se unen Sunnyvale, Santa Clara y Cupertino. Mi amigo señaló por la ventana y dijo: «Ahí estaba la granja de mi padre». Le pregunté qué crecía su padre; Era muy difícil imaginar una granja en ese lugar. Cultivó fresas. ¿Y qué pasó con la finca? Su padre lo perdió cuando lo internaron en un campo de internamiento para japoneses de la Segunda Guerra Mundial. Un inversor inmobiliario acabó con ello. El padre de mi amigo finalmente se suicidó. La finca se convirtió en un estacionamiento. Esto me lleva de nuevo a un argumento que he planteado en artículos anteriores de Radar: nuestros miedos a la IA son en realidad miedos a nosotros mismos, miedos de que la IA actúe tan mal como los humanos han actuado repetidamente. No necesitamos la IA para convertir el mundo en fresas, como tampoco la necesitamos para convertir el mundo en estacionamientos. Ya estamos convirtiendo el mundo en estacionamientos, y lo hacemos sin tener en cuenta el costo humano. Ya estamos arrojando CO2 a un ritmo que pronto hará que el mundo sea inhabitable para todos, excepto para los pocos que pueden aislarse de las consecuencias. Si vamos a resolver estos problemas, no será a través de la tecnología. Es encontrando mejores humanos que Elon y, me temo, que Sam Altman. No tenemos oportunidad de resolver el problema de la IA si no podemos resolver el problema humano. Y si no solucionamos el problema humano, el problema de la IA es irrelevante. Obtenga el boletín informativo O’Reilly Radar Trends to Watch Seguimiento de las tendencias que necesita conocer en la intersección de los negocios y la tecnología. Gracias por suscribirse.

Source link