BARI, Italia – El Papa Francisco es un octogenario que dice que no puede usar una computadora, pero una tarde de febrero de 2019, un alto diplomático de las Big Tech estadounidenses entró en la residencia papal en busca de orientación sobre la ética de una tecnología en gestación: la inteligencia artificial. El presidente Brad Smith y el Papa discutieron el rápido desarrollo de la tecnología, relató Smith en una entrevista con The Washington Post, y Francisco pareció comprender sus riesgos. Cuando Smith se fue, el Papa pronunció una advertencia. “Mantengan su humanidad”, instó, mientras sostenía la muñeca de Smith. En los cinco años transcurridos desde esa reunión, la IA se ha vuelto inevitable, como descubrió el propio Papa el año pasado cuando imágenes virales de él con una chaqueta acolchada de Balenciaga anunciaron una nueva era. de falsificaciones profundas. Y a medida que la tecnología se ha expandido, el Vaticano se ha posicionado como la conciencia de empresas como Microsoft y emergió como una voz sorprendentemente influyente en el debate sobre la gobernanza global de la IA. Francisco llegó al sur de Italia el viernes para convertirse en el primer Papa en dirigirse a un grupo. de los Siete de líderes mundiales, uniéndose a una sesión en la cumbre dedicada a la IA. “La presencia de Su Santidad hará una contribución decisiva a la definición de un marco regulatorio, ético y cultural para la inteligencia artificial”, dijo la primera ministra italiana, Giorgia Meloni, en un Declaración que anuncia la invitación.DÉJATE ATRAPADOHistorias para mantenerte informadoDe la misma manera que el Papa buscó elevar la urgencia del cambio climático, Francisco ahora se está centrando en la IA, una tecnología que, según él, representa “un riesgo para nuestra supervivencia” y podría “ poner en peligro nuestra casa común”. Sus preocupaciones se centran menos en las predicciones de las películas de ciencia ficción sobre máquinas malévolas, o en cómo la posibilidad de una IA inteligente podría desafiar la definición fundamental de la vida. Más bien, se ha centrado en el potencial apocalíptico de la IA armada. Teme la eliminación de la empatía humana a medida que los algoritmos comiencen a decidir el resultado de todo, desde solicitudes de asilo hasta préstamos bancarios. Ha anunciado “las emocionantes oportunidades” de la tecnología, pero le preocupa su poder para profundizar la desigualdad dentro y entre las naciones. Esos riesgos, insiste, deben gestionarse a través de un tratado global para regular la IA. “La capacidad humana única para el juicio moral y la toma de decisiones éticas es más que una colección compleja de algoritmos, y esa capacidad no puede reducirse a programar una máquina, que, por más ‘inteligente’ que sea, sigue siendo una máquina”, dijo el Papa en diciembre. «Por esta razón, es imperativo garantizar una supervisión humana adecuada, significativa y consistente de los sistemas de armas». El viernes, los líderes mundiales, con el apoyo del Vaticano, darán a conocer una especie de insignia de honor: una nueva etiqueta para las empresas que acuerdan desarrollar herramientas de inteligencia artificial de manera segura y ética, según una persona familiarizada con las discusiones del G-7, que habló bajo condición de anonimato para describir el plan antes de su publicación. La etiqueta equivaldrá a un compromiso “voluntario”, respaldado por un sistema de monitoreo y presentación de informes. La cuestión de la IA ha brindado una oportunidad para que una iglesia disminuida por su manejo del abuso sexual clerical reafirme su autoridad moral. Microsoft y al menos algunas otras empresas tecnológicas parecen ansiosas por obtener el sello de aprobación de la Iglesia Católica, mientras la industria se enfrenta a los desafíos de relaciones públicas de una tecnología que podría automatizar empleos, amplificar la desinformación y crear nuevos riesgos de ciberseguridad. El Llamado de Roma para la ética de la IA: un documento que contó con el Vaticano, Microsoft e IBM entre sus firmantes originales en 2020, se está convirtiendo en un estándar de oro para las mejores prácticas de IA. Representantes del judaísmo y del islam firmaron el año pasado. El próximo mes, varias religiones orientales se unirán, sumándose a una lista que ahora incluye cientos de empresas, universidades y una agencia de la ONU en busca de directrices globales. El Vaticano se ha ganado un asiento en la mesa de las Big Tech. Una antigua institución con un historial mixto en ciencia (ver el juicio de Galileo) ahora está enviando representantes a importantes eventos tecnológicos. El reverendo Paolo Benanti, el principal experto en inteligencia artificial del Vaticano, un sacerdote franciscano y un ingeniero capacitado al que se le atribuye haber acuñado el término. “algorética”: el año pasado consiguió un lugar en el Órgano Asesor sobre Inteligencia Artificial de las Naciones Unidas y se ha convertido en un actor importante en la elaboración de una política nacional de IA para Italia, una nación del G-7. A petición del Vaticano, IMB organizó una cumbre mundial de universidades en Notre Dame para llevar la ética de la IA al frente de los planes de estudio. Las opiniones del Vaticano han influido en decisiones empresariales concretas. Smith dijo a The Post: “Desarrollamos nuestra propia tecnología que permitiría que cualquiera con sólo unos segundos de la voz de cualquier persona pudiera replicarla. Y decidimos no publicar eso”. Añadió que el Llamamiento de Roma “es definitivamente parte de lo que nos ha ayudado en Microsoft a esforzarnos por adoptar un enfoque de mentalidad amplia para el desarrollo de la IA, incluso dentro de nuestras cuatro paredes. Simplemente creo que ha proporcionado un amplio marco humanista e intelectual”. El énfasis del compromiso en la inclusión también influyó en la decisión de la compañía de lanzar una beca que reúne a investigadores y líderes de la sociedad civil en gran parte del Sur Global para evaluar el impacto de la tecnología, dijo Natasha. Crampton, director responsable de IA de Microsoft. Los becarios han ayudado a la empresa a desarrollar evaluaciones multilingües de modelos de IA y se han asegurado de que la empresa comprenda el contexto local y las normas culturales a medida que desarrolla nuevos productos. No todas las empresas están de acuerdo con los principios de Roma. Algunos han seguido adelante con audio manipulado por IA que los investigadores advierten que podría usarse para engañar a los votantes antes de las elecciones. Tampoco a todos se les ha permitido unirse al club de Roma. “Huawei preguntó”, dijo el arzobispo Vincenzo Paglia, presidente de la Academia Pontificia para la Vida. “Y dijimos que no, porque realmente no sabemos cuál es el [people in charge there] Piensa”. Mientras tanto, el Vaticano sigue preocupado por el mal uso de la IA de código abierto. La tecnología podría producir importantes beneficios en la atención sanitaria y la educación, afirmó Benanti. «Pero también puede multiplicar muchos elementos malos en la sociedad, y no podemos difundir la IA en todas partes sin una toma de decisiones políticas, porque mañana podríamos despertar con un multiplicador de desigualdad, de armas biológicas», dijo. Los funcionarios del Vaticano ya han hicieron sonar las alarmas sobre lo que consideran usos potencialmente poco éticos, incluidos los sistemas de reconocimiento facial implementados en la represión de los manifestantes en Hong Kong entre 2019 y 2020, así como algoritmos para el procesamiento de refugiados, como en Alemania, donde se han utilizado pruebas lingüísticas impulsadas por IA. para establecer si los solicitantes de asilo mienten sobre sus lugares de origen. La relación entre el Vaticano y los innovadores de la IA tuvo su génesis en un discurso de 2018 que pronunció Benanti sobre la ética de la IA. Un alto representante de Microsoft en Italia estaba entre la audiencia y los dos comenzaron a reunirse regularmente. Trajeron a Paglia, que estaba interesado en ampliar el mandato de su academia más allá de cuestiones centrales como la ética de la investigación con células madre. Antes de la visita de Smith al Papa, Paglia lo acompañó a través del “Juicio Final” de Miguel Ángel en la Capilla Sixtina, y le mostró representaciones de Galileo de la Tierra girando alrededor del sol, la teoría que lo llevó a arresto domiciliario de por vida después de un juicio eclesiástico. Sin embargo, la relación del Vaticano con la ciencia no siempre ha sido la de un ludita. En la Edad Media, los eruditos católicos sembraron en Europa lo que se convertirían en algunas de sus mejores universidades. Y aunque fue blanco de algunos clérigos individuales, la teoría de la evolución de Darwin nunca fue cuestionada oficialmente por el Vaticano. La iglesia declara oficialmente que “fe y razón” no están en conflicto. “La Biblia no nos dice cómo funciona el cielo, sino cómo llegar allí”, dijo Paglia, citando a Galileo. El arzobispo ha realizado viajes oficiales a la sede de Microsoft cerca de Seattle y a las oficinas de IBM en Nueva York. A través de agresivas inversiones en IA, Microsoft se ha convertido en la empresa más valiosa del mundo, con un valor de más de 3 billones de dólares. Pero su éxito continuo depende de frenar las percepciones negativas sobre la IA. Las preocupaciones de que la tecnología pueda desplazar empleos, exacerbar las desigualdades, sobrecargar la vigilancia y dar paso a nuevos tipos de guerras están llevando a los gobiernos de todo el mundo a considerar regulaciones estrictas que podrían mitigar las ambiciones de la compañía. La Unión Europea está preparando una ley antimonopolio histórica que podría limitar más Modelos avanzados de IA generativa. La Comisión Federal de Comercio está investigando un acuerdo que Microsoft hizo con la startup de inteligencia artificial Inflection, investigando si el gigante tecnológico organizó deliberadamente la inversión para evitar una revisión de la fusión. Y las autoridades estadounidenses llegaron a un acuerdo que expondrá a la empresa a un mayor escrutinio sobre cómo ejerce el poder para dominar la inteligencia artificial, incluidas sus inversiones multimillonarias en OpenAI, el fabricante de ChatGPT. Esa relación también ha expuesto a Microsoft a nuevos riesgos para su reputación, ya que el director ejecutivo de OpenAI, Sam Altman, frecuentemente genera controversia. Bajo el liderazgo de Smith, Microsoft ha creado una de las organizaciones de lobby globales más sofisticadas para desactivar sus desafíos regulatorios y tratar de convencer a la gente de que es el titán tecnológico en el que el mundo puede confiar para construir IA. Smith se reúne periódicamente con jefes de estado, incluida una aparición el mes pasado junto al presidente Biden en la inauguración de una fábrica. Para ser una empresa eficaz, Microsoft tiene que encontrar maneras de trabajar con los gobiernos y garantizar que su tecnología pueda trascenderlos, dijo Smith. La “organización global más antigua del mundo” puede ser un maestro y socio único en ese esfuerzo, dijo. El catolicismo y otras religiones no están limitados por fronteras nacionales, al igual que las aplicaciones que Microsoft vende a nivel mundial. “En cierto nivel, podrías mirarnos a los dos y pensar que somos extraños compañeros de cama”, dijo Smith. “Pero, por otro lado, es una combinación perfecta”, informó Zakrzewski desde Washington.