El Instituto de Seguridad de IA del Reino Unido puso su plataforma de prueba y evaluación de IA a disposición de la comunidad mundial de IA a partir del 10 de mayo de 2024. La plataforma, llamada Inspect, allanará el camino para la innovación segura de modelos de IA, según AI. Instituto de Seguridad y Departamento de Ciencia, Innovación y Tecnología (DIST). Al poner Inspect a disposición de la comunidad global, el Instituto dijo que está ayudando a acelerar el trabajo sobre evaluaciones de seguridad de la IA realizadas a nivel internacional. El objetivo es que esto conduzca a mejores pruebas de seguridad y al desarrollo de modelos más seguros. También permite un enfoque coherente para las evaluaciones de seguridad de la IA en todo el mundo. según el gobierno. Inspect es una biblioteca de software que permite a los evaluadores (desde empresas emergentes, académicos y desarrolladores de inteligencia artificial hasta gobiernos internacionales) evaluar capacidades específicas de modelos individuales y luego producir una puntuación basada en sus resultados. Inspect se puede utilizar para evaluar modelos en una variedad de áreas, incluido su conocimiento básico, capacidad de razonamiento y capacidades autónomas. Lanzado a través de una licencia de código abierto, significa que Inspect ahora está disponible gratuitamente para que lo utilice la comunidad de IA. El presidente del AI Safety Institute, Ian Hogarth, comentó: “Nos hemos inspirado en algunos de los principales desarrolladores de IA de código abierto, en particular proyectos como GPT-NeoX, OLMo o Pythia, que tienen datos de capacitación disponibles públicamente y capacitación y evaluación con licencia OSI. código, pesos de modelo y puntos de control parcialmente entrenados. Este es nuestro esfuerzo por contribuir”. «Esperamos ver a la comunidad global de IA utilizando Inspect no solo para llevar a cabo sus propias pruebas de seguridad de modelos, sino también para ayudar a adaptar y desarrollar la plataforma de código abierto para que podamos producir evaluaciones de alta calidad en todos los ámbitos». El Instituto de Seguridad de IA del Reino Unido fue anunciado por el primer ministro británico, Rishi Sunak, en la Cumbre de Seguridad de IA, celebrada en Bletchley Park, Inglaterra, en noviembre de 2023. En ese momento, Sunak dijo que la ambición del gobierno del Reino Unido para esta nueva entidad es convertirla en una centro global encargado de probar la seguridad de los tipos emergentes de IA.