Un organismo asesor de las Naciones Unidas (ONU) sobre inteligencia artificial (IA) insta a los gobiernos a colaborar en la creación de una “arquitectura globalmente inclusiva y distribuida” para gobernar el uso de la tecnología. El Órgano Asesor de Alto Nivel de las Naciones Unidas sobre IA, creado formalmente en octubre de 2023 para analizar la gobernanza internacional de la tecnología, ha publicado un informe que describe su plan para abordar los riesgos relacionados con la IA y cómo se puede compartir globalmente el potencial transformador de la tecnología. “El imperativo de la gobernanza global, en particular, es irrefutable”, afirma en el resumen ejecutivo. “Las materias primas de la IA, desde los minerales críticos hasta los datos de entrenamiento, se obtienen a nivel mundial. La IA de propósito general, implementada a través de las fronteras, genera múltiples aplicaciones a nivel mundial. El desarrollo acelerado de la IA concentra el poder y la riqueza a escala global, con implicaciones geopolíticas y geoeconómicas. “Además, actualmente nadie entiende todo el funcionamiento interno de la IA lo suficiente como para controlar completamente sus resultados o predecir su evolución. Tampoco se responsabiliza a los encargados de la toma de decisiones por desarrollar, implementar o utilizar sistemas que no comprenden. Mientras tanto, es probable que las repercusiones negativas y los impactos posteriores resultantes de tales decisiones también sean globales”. Añadió que, aunque los gobiernos nacionales y las organizaciones regionales serán cruciales para controlar el uso de la IA, “la naturaleza misma de la tecnología –transfronteriza en estructura y aplicación– requiere un enfoque global”. Por lo tanto, el Órgano Asesor ha hecho una serie de recomendaciones para abordar las lagunas actuales en los acuerdos de gobernanza de la IA y está “llamando a todos los gobiernos y partes interesadas” a fomentar el desarrollo y la protección de los derechos humanos. Estas recomendaciones incluyen la creación de un panel científico internacional independiente sobre IA, que debería estar compuesto por diversos expertos multidisciplinarios en el campo que actúen a título personal de manera voluntaria, y el lanzamiento de un diálogo de políticas intergubernamental y de múltiples partes interesadas bianual sobre la gobernanza de la IA que podría tener lugar al margen de las reuniones existentes de la ONU. Además, propuso la creación de un “panel de normas de IA” para desarrollar y mantener un registro de definiciones y normas aplicables para evaluar los sistemas de IA; “Establecer un fondo global para la IA que ponga un piso a la brecha de la IA”, que debería ser administrado por una nueva estructura de gobernanza independiente; y desarrollar un marco global de datos de IA que instituya “mecanismos de administración e intercambio de datos que den forma al mercado” para permitir “ecosistemas locales de IA florecientes a nivel mundial”. Según Wendy Hall, profesora regia de informática en la Universidad de Southampton y la única experta británica en el Órgano Asesor, los esfuerzos globales actuales para establecer una gobernanza de la IA son insuficientes. “Ya estamos viendo el impacto de los avances de la IA en la salud, los controles energéticos, la producción de alimentos y la educación”, dijo. “Se debe permitir que la inteligencia artificial se desarrolle para el bien de la humanidad, pero, sin gobernanza, tiene el potencial de evolucionar de maneras que serían perjudiciales para la sociedad. Como mínimo, esperamos que este informe estimule conversaciones y debates significativos sobre la gobernanza global. “Necesitamos desesperadamente un enfoque global que aborde los desafíos de la IA y garantice que beneficie a todos, no solo a las pocas naciones que lideran su desarrollo”, dijo Hall. En abril de 2024, más de 120 Estados miembros respaldaron un proyecto de resolución de la ONU que promovía el uso de la IA en el desarrollo sostenible y la protección de los derechos humanos. Si bien su objetivo era «salvar las brechas digitales y de inteligencia artificial entre los países y dentro de ellos» al alentar a los Estados miembros, el sector privado, la sociedad civil, las organizaciones de investigación y los medios de comunicación a «desarrollar y apoyar enfoques y marcos regulatorios y de gobernanza relacionados con sistemas de inteligencia artificial seguros y confiables», la resolución liderada por Estados Unidos no era vinculante. La gobernanza de la IA no es una conversación global En enero de 2024, en el Foro Económico Mundial en Davos, el secretario general de la ONU, António Guterres, acusó a las empresas tecnológicas y a los gobiernos de perseguir sus propios intereses estrechos en la IA «con un claro desprecio» por los derechos humanos, la privacidad y otras consecuencias sociales, comparando su desarrollo no regulado con los riesgos crecientes que plantea la crisis climática. Además de pedir a las élites empresariales y políticas del mundo que frenaran el desarrollo «descontrolado» de la IA, Guterres también instó a reformar el sistema internacional establecido después de la Segunda Guerra Mundial para que se puedan tomar medidas efectivas ante los desafíos globales. Guterres destacó las marcadas disparidades de poder en todo el sistema internacional como una barrera importante para el progreso tanto en materia de IA como de cambio climático, y señaló, por ejemplo, que muchos estados miembros estaban bajo un régimen colonial cuando se creó la ONU, y por lo tanto tienen un “peso mínimo” en los debates que tienen lugar hoy. En su informe, el Órgano Asesor sobre IA dijo que si bien no faltan documentos y diálogos centrados en la gobernanza de la IA (con cientos de guías, marcos y principios adoptados por gobiernos, empresas, consorcios y organizaciones internacionales en los últimos años), ninguno tiene un alcance verdaderamente global, lo que genera problemas de representación, coordinación e implementación. Al señalar que “partes enteras del mundo han quedado fuera de las conversaciones internacionales sobre gobernanza de la IA”, el informe cita el hecho de que solo siete países (Canadá, Francia, Alemania, Italia, Japón, el Reino Unido y los EE. UU.) son parte de todas las iniciativas de gobernanza de la IA no pertenecientes a la ONU que se muestran en el informe, mientras que 118 países (principalmente del Sur Global) no son parte de ninguna. “La equidad exige que más voces desempeñen papeles significativos en las decisiones sobre cómo gobernar la tecnología que nos afecta”, afirmó. “La concentración de la toma de decisiones en el sector de la tecnología de IA no puede justificarse; también debemos reconocer que, históricamente, muchas comunidades han sido completamente excluidas de las conversaciones sobre gobernanza de la IA que las afectan”. Para garantizar una colaboración internacional más estrecha y equitativa en materia de gobernanza de la IA, el Órgano Asesor ha propuesto crear “una estructura ligera y ágil como expresión de un esfuerzo coherente: una oficina de IA en la Secretaría de las Naciones Unidas, cerca del Secretario General, que funcione como el ‘pegamento’ para unir las iniciativas propuestas aquí de manera eficiente y sostenible”.