La legendaria roboticista del MIT Daniela Rus ha publicado un nuevo libro llamado The Heart and the Chip: Our Bright Future with Robots. «Hay una revolución robótica en marcha», dice Rus en la introducción del libro, «una que ya está provocando cambios masivos en nuestra sociedad y en nuestras vidas». Tiene toda la razón, por supuesto, y aunque algunos de nosotros hemos sentido que esto es cierto durante décadas, podría decirse que ahora es más cierto que nunca. Pero los robots son difíciles y complicados, y la forma en que su progreso está entrelazado con el de los humanos que los fabrican y trabajan con ellos significa que estos cambios no se producirán rápida ni fácilmente. La experiencia de Rus le brinda una perspectiva profunda y matizada sobre el pasado y el futuro de la robótica, y podemos compartir un poco de eso con usted aquí. Daniela Rus: ¿Deberían los robóticos considerar suscribir su propio juramento hipocrático? El siguiente extracto pertenece al capítulo 14, titulado “¿Qué podría salir mal?” Lo cual, seamos honestos, es la pregunta correcta que debes hacer (y luego intentar responder de manera concluyente) siempre que estés pensando en enviar un robot al mundo real. En varios puntos de este libro he mencionado al personaje ficticio Tony Stark. , que utiliza la tecnología para transformarse en el superhéroe Iron Man. Para mí, este personaje es una tremenda inspiración, pero a menudo me recuerdo a mí mismo que en la historia comienza su carrera como fabricante de armas y desarrollador de municiones formado en el MIT. En la película Iron Man de 2008, cambia su forma de actuar porque descubre que las armas especializadas de su empresa están siendo utilizadas por terroristas. Recuerde, los robots son herramientas. Intrínsecamente no son ni buenos ni malos; lo que importa es cómo elegimos usarlos. En 2022, los drones aéreos se utilizaron como armas en ambos bandos de guerras devastadoras. Cualquiera puede comprar un dron, pero existen regulaciones para su uso que varían entre los diferentes países y dentro de ellos. En Estados Unidos, la Administración Federal de Aviación exige que todos los drones estén registrados, con algunas excepciones, incluidos los modelos de juguete que pesen menos de 250 gramos. Las reglas también dependen de si el dron se vuela por diversión o por negocios. Independientemente de las regulaciones, cualquiera podría usar un robot volador para infligir daño, del mismo modo que cualquiera puede blandir un martillo para lastimar a alguien en lugar de clavar un clavo en una tabla. Sin embargo, los drones también se están utilizando para entregar suministros médicos críticos en áreas de difícil acceso, rastrear la salud de los bosques y ayudar a científicos como Roger Payne a monitorear y defender a las especies en riesgo. Mi grupo colaboró ​​con la compañía de danza moderna Pilobolus para montar la primera representación teatral con una mezcla de humanos y drones en 2012, con un robot llamado Seraph. Entonces, los drones también pueden ser bailarines. En la profética novela de ciencia ficción de Kim Stanley Robinson, El Ministerio para el Futuro, se despliega un enjambre de vehículos aéreos no tripulados para estrellar un avión de pasajeros. También puedo imaginar que una bandada de estos pájaros mecánicos se utilice de muchas maneras buenas. Al comienzo de su guerra contra Ucrania, Rusia limitó el acceso de sus ciudadanos a noticias e información imparciales con la esperanza de controlar y dar forma a la narrativa en torno al conflicto. La verdadera historia de la invasión fue sofocada, y me pregunté si podríamos haber enviado un enjambre de pantallas de video voladoras capaces de organizarse en un monitor aéreo gigante en medio de las plazas populares de las ciudades de toda Rusia, mostrando imágenes reales de la guerra, no simplemente clips aprobados por el gobierno. O, aún más simple: enjambres de proyectores digitales voladores podrían haber transmitido las imágenes en los costados de los edificios y las paredes para que todos las vieran. Si hubiéramos desplegado suficientes, habrían sido demasiados como para cerrarlos. Puede haber variaciones de Tony Stark pasando por mi universidad o los laboratorios de mis colegas en todo el mundo, y debemos hacer todo lo posible para garantizar que estas Jóvenes talentosos se esfuerzan por tener un impacto positivo en la humanidad. El personaje de Tony Stark está moldeado por sus experiencias y orientado a tener un impacto positivo en el mundo, pero no podemos esperar a que todos nuestros tecnólogos soporten experiencias desgarradoras que cambian sus vidas. Tampoco podemos esperar que todos utilicen estas máquinas inteligentes para siempre una vez que hayan sido desarrolladas y puestas en circulación. Sin embargo, eso no significa que debamos dejar de trabajar en estas tecnologías: los beneficios potenciales son demasiado grandes. Lo que podemos hacer es pensar más en las consecuencias y poner barreras para garantizar beneficios positivos. Mis contemporáneos y yo no necesariamente podemos controlar cómo se usan estas herramientas en el mundo, pero podemos hacer más para influir en las personas que las fabrican. Puede haber variaciones de Tony Stark pasando por mi universidad o los laboratorios de mis colegas en todo el mundo. , y debemos hacer todo lo posible para garantizar que estos jóvenes talentosos se esfuercen por tener un impacto positivo en la humanidad. Es absolutamente necesario que haya diversidad en nuestros laboratorios universitarios y centros de investigación, pero es posible que podamos hacer más para moldear a los jóvenes que estudian con nosotros. Por ejemplo, podríamos exigir un estudio del Proyecto Manhattan y los dilemas morales y éticos asociados con el fenomenal esfuerzo por construir y utilizar la bomba atómica. En este punto, los cursos de ética no son un requisito generalizado para obtener un título avanzado en robótica o inteligencia artificial, pero tal vez deberían serlo. ¿O por qué no exigir a los graduados que presten juramento a una variación del juramento hipocrático adaptada a la robótica y la IA? El juramento proviene de un antiguo texto médico griego, que puede haber sido escrito o no por el filósofo Hipócrates, y ha evolucionado a lo largo de los años. siglos. Fundamentalmente, representa un estándar de ética médica que se espera que cumplan los médicos. La más famosa de ellas es la promesa de no hacer daño o evitar cometer actos ilícitos intencionales. También aplaudo el enfoque del juramento en el compromiso con la comunidad de médicos y la necesidad de mantener el vínculo sagrado entre maestros y alumnos. Cuanto más vinculados permanezcamos como comunidad de robótica, cuanto más fomentemos y mantengamos nuestras relaciones a medida que nuestros estudiantes salen al mundo, más podremos hacer para dirigir la tecnología hacia un futuro positivo. Hoy en día, el juramento hipocrático no es un requisito universal para obtener la certificación de médico, y tampoco veo que funcione de esa manera para los robóticos. Tampoco soy el primer experto en robótica o líder en inteligencia artificial que sugiere esta posibilidad. Pero deberíamos considerar seriamente convertirlo en una práctica estándar. Después del desarrollo de la bomba atómica, cuando el potencial de los científicos para causar daño se hizo repentina y terriblemente evidente, hubo cierta discusión sobre un juramento hipocrático para los investigadores científicos. La idea ha resurgido de vez en cuando y rara vez gana fuerza. Pero la ciencia trata fundamentalmente de la búsqueda del conocimiento; en ese sentido es puro. En robótica e inteligencia artificial, estamos construyendo cosas que tendrán un impacto en el mundo, su gente y otras formas de vida. En este sentido, nuestro campo se acerca algo más a la medicina, ya que los médicos están utilizando su formación para impactar directamente en la vida de las personas. Pedir a los tecnólogos que reciten formalmente una versión del juramento hipocrático podría ser una forma de seguir impulsando nuestro campo en la dirección correcta, y tal vez servir como control sobre las personas a las que luego se les pide que desarrollen robots o inteligencia artificial expresamente para propósitos nefastos. La idea misma de lo que es bueno o malo, en términos de cómo se utiliza un robot, depende de dónde te sientes. Me opongo firmemente a dar autonomía a los robots armados o armados. No podemos ni debemos confiar en la inteligencia de las máquinas para tomar decisiones sobre si infligir daño a una persona o a un grupo de personas por su cuenta. Personalmente, preferiría que los robots nunca se utilizaran para hacer daño a nadie, pero esto ya no es realista. Los robots se utilizan como herramientas de guerra y es nuestra responsabilidad hacer todo lo posible para darle forma a su uso ético. Por lo tanto, no me separo ni me divorcio de la realidad y opero únicamente en algún universo utópico de robots felices y serviciales. De hecho, imparto cursos sobre inteligencia artificial a funcionarios de seguridad nacional y les asesoro sobre las fortalezas, debilidades y capacidades de la tecnología. Veo esto como un deber patriótico y me siento honrado de ayudar a nuestros líderes a comprender las limitaciones, fortalezas y posibilidades de los robots y otros sistemas físicos mejorados por IA: lo que pueden y no pueden hacer, lo que deben y no deben hacer. , y lo que creo que deben hacer. En última instancia, no importa cuánto enseñemos y prediquemos sobre las limitaciones de la tecnología, la ética de la IA o los peligros potenciales de desarrollar herramientas tan poderosas, las personas tomarán sus propias decisiones, ya sea que estén estudiantes recién graduados o altos líderes de seguridad nacional. Lo que espero y enseño es que debemos elegir hacer el bien. A pesar de los esfuerzos de las empresas de extensión de vida, todos tenemos un tiempo limitado en este planeta, lo que el científico Carl Sagan llamó nuestro “punto azul pálido”, y debemos hacer todo lo posible para aprovechar ese tiempo al máximo y tener un impacto positivo. en nuestro hermoso entorno y en las muchas personas y otras especies con las que lo compartimos. Mi búsqueda de décadas para construir robots más inteligentes y capaces no ha hecho más que fortalecer mi aprecio por (no, maravillarme) las maravillosas criaturas que se arrastran, caminan, nadan, corren, se deslizan y vuelan a través y alrededor de nuestro planeta, y las fantásticas plantas. , también. No deberíamos ocuparnos del trabajo de desarrollar robots que puedan eliminar estas creaciones cósmicamente raras. En cambio, deberíamos centrarnos en desarrollar tecnologías para preservarlos e incluso ayudarlos a prosperar. Esto se aplica a todas las entidades vivientes, incluida la especie que está especialmente preocupada por el surgimiento de las máquinas inteligentes. Extraído de “El corazón y el chip: nuestro brillante futuro con los robots”. Copyright 2024 de Daniela Rus, Gregory Mone. Utilizado con permiso del editor, WW Norton & Company. Reservados todos los derechos.

Source link