El gobierno del Reino Unido ha firmado el primer tratado “legalmente vinculante” del mundo sobre inteligencia artificial (IA) y derechos humanos, que compromete a los estados a implementar salvaguardas contra diversas amenazas que plantea la tecnología. Redactado por el Consejo de Europa, una organización internacional creada en 1949 para defender los derechos humanos en todo el continente, el tratado ya ha sido firmado por Andorra, Georgia, Islandia, Noruega, la República de Moldavia y San Marino, así como Israel, los EE. UU. y la Unión Europea (UE). Oficialmente titulado Convenio marco sobre inteligencia artificial y derechos humanos, democracia y estado de derecho, el tratado describe una serie de principios que los estados deben cumplir durante todo el ciclo de vida de un sistema de IA, incluidos la privacidad y la protección de datos; la transparencia y la supervisión; la igualdad y la no discriminación; la innovación segura; y la dignidad humana. Para garantizar la protección de estos principios, el tratado también exige que los países implementen medidas para evaluar y mitigar cualquier impacto potencialmente adverso de la IA, así como para proporcionar recursos efectivos cuando se produzcan violaciones de los derechos humanos como resultado de su funcionamiento. “La inteligencia artificial tiene la capacidad de mejorar radicalmente la capacidad de respuesta y la eficacia de los servicios públicos y de impulsar el crecimiento económico”, dijo la Lord Canciller y Secretaria de Justicia Shabana Mahmood. “Sin embargo, no debemos dejar que la IA nos moldee; debemos moldearla. Esta convención es un paso importante para garantizar que estas nuevas tecnologías puedan aprovecharse sin erosionar nuestros valores más antiguos, como los derechos humanos y el estado de derecho”. El secretario de Estado de Ciencia, Innovación y Tecnología, Peter Kyle, agregó que el tratado será clave para aprovechar el potencial de la IA para impulsar el crecimiento económico y transformar los servicios públicos: “Una vez que entre en vigor, mejorará aún más la protección de los derechos humanos, el estado de derecho y la democracia, fortaleciendo nuestro propio enfoque nacional de la tecnología y promoviendo la causa global de una IA segura y responsable”. Aunque el acuerdo se aplica a todo uso de la IA relacionado con el sector público, incluso cuando las empresas privadas actúan en su nombre, el texto en sí no cubre explícitamente el uso de la tecnología en el sector privado y deja en manos de cada estado la determinación del grado en que las empresas deben cumplir con los requisitos y obligaciones establecidos. El texto también incluye una excepción explícita para los intereses de seguridad nacional. “No se requerirá que una Parte aplique esta Convención a actividades dentro del ciclo de vida de los sistemas de inteligencia artificial relacionadas con la protección de sus intereses de seguridad nacional, en el entendimiento de que tales actividades se llevan a cabo de manera consistente con el derecho internacional aplicable”, dice. Si bien un estado miembro puede prohibir casos de uso particulares de IA cuando crea que es incompatible con los derechos humanos, el texto no detalla ninguna sanción particular para el incumplimiento de un gobierno. No hay aplicación estricta Los abogados de Bird&Bird, por ejemplo, señalaron que solo hay un mecanismo de cumplimiento vago en forma de informes sobre las actividades realizadas para cumplir con los requisitos del tratado, “pero no hay criterios de aplicación estrictos y, por lo tanto, la efectividad y el impacto de la Convención de IA podrían ser limitados”. Sin embargo, contiene mecanismos de disputa para los gobiernos que no están de acuerdo con la interpretación o aplicación del marco, y permite a los países “denunciar” (es decir, optar por no participar) de la convención si proporcionan una notificación al secretario general del Consejo de Europa. Nick Reiners, analista de geotecnología de Eurasia Group, dijo a Gzero Media que la naturaleza voluntaria del tratado significa que no es especialmente vinculante legalmente, a pesar de cómo lo están promocionando sus signatarios. Añadió que la excepción de seguridad nacional también diluye lo extenuante que es, señalando, por ejemplo, que no afectaría a la forma en que Israel está desplegando IA en Gaza para seleccionar y atacar objetivos. Añadió que la UE habrá firmado en un intento de «internacionalizar la Ley de IA», de modo que las empresas y los gobiernos fuera del continente se ajusten a sus prioridades en materia de tecnología. El tratado entrará en vigor tres meses después de que haya sido ratificado por al menos cinco signatarios, incluidos al menos tres miembros del Consejo de Europa, después de lo cual los gobiernos de todo el mundo serán elegibles para unirse a él.