Lea más sobre las iniciativas del Reino Unido para supervisar el desarrollo de sistemas de IA éticos: Reino Unido y EE. UU. construirán un enfoque común sobre seguridad de IA El Instituto de Seguridad de IA del Reino Unido presenta una plataforma para acelerar el desarrollo seguro de IA El gobierno del Reino Unido en una oferta de £ 8,5 millones para abordar las ciberamenazas de IA El Reino Unido ha firmado el primer tratado internacional legalmente vinculante sobre ética de IA. El 5 de septiembre de 2024, la Lord Canciller Shabana Mahmood firmó el Convenio de IA del Consejo de Europa, un acuerdo internacional para alentar la implementación de salvaguardas contra los riesgos de la IA para los derechos humanos, la democracia y el estado de derecho. El texto, oficialmente llamado ‘Convenio Marco del Consejo de Europa sobre Inteligencia Artificial y Derechos Humanos, Democracia y Estado de Derecho’, fue adoptado en mayo por los 46 estados miembros del Consejo de Europa. El texto describe un esfuerzo conjunto para supervisar el desarrollo de la IA y proteger al público de los posibles daños causados ​​​​por el uso y mal uso de modelos de IA y herramientas impulsadas por IA. Convención sobre IA construida sobre tres pilares Incluye tres salvaguardas generales: Proteger los derechos humanos, incluyendo asegurar que los datos de las personas se usen apropiadamente, su privacidad sea respetada y la IA no las discrimine Proteger la democracia asegurando que los países tomen medidas para prevenir que las instituciones y procesos públicos sean socavados Proteger el estado de derecho, haciendo recaer sobre los países signatarios la responsabilidad de regular los riesgos específicos de la IA, proteger a sus ciudadanos de daños potenciales y asegurar que se use de manera segura También compromete a los países a actuar contra los sistemas de IA que quedan fuera de estos parámetros abordando el mal uso de los modelos de IA que representan un riesgo para los servicios públicos y el público en general. Lord Mahmood comentó: “No debemos dejar que la IA nos moldee; debemos moldear la IA. Esta convención es un paso importante para asegurar que estas nuevas tecnologías puedan aprovecharse sin erosionar nuestros valores más antiguos, como los derechos humanos y el estado de derecho”. Una vez que el tratado sea ratificado y entre en vigor en el Reino Unido, fortalecerá las leyes y regulaciones nacionales actuales y futuras relacionadas con el uso de la tecnología y la IA. Los tratados internacionales son “fundamentales” para el futuro del desarrollo de la IA Esta decisión llega unos meses después de que el nuevo gobierno laborista confirmara sus planes de introducir una legislación para regular los modelos de IA más avanzados. Tim O’Reilly, fundador y director ejecutivo de la editorial O’Reilly, destacó lo cruciales que son estos tratados internacionales para el futuro de la IA. “Los límites que ponemos a los algoritmos y modelos de IA son fundamentales para dirigir la actividad económica y la atención humana hacia fines productivos. Por eso son tan importantes tratados como la convención de IA, que firmarán hoy Estados Unidos, la UE y Gran Bretaña”, afirmó.