SAN FRANCISCO – El gobernador Gavin Newsom vetó el domingo la SB 1047, un proyecto de ley de seguridad de inteligencia artificial que habría establecido requisitos para que los desarrolladores de modelos avanzados de IA creen protocolos destinados a prevenir catástrofes. El proyecto de ley, presentado por el senador Scott Wiener (D-San Francisco), habría exigido a los desarrolladores que presentaran sus planes de seguridad al fiscal general del estado, quien podría responsabilizarlos si los modelos de IA que controlan directamente causaran daños o amenazas inminentes a la seguridad pública. Además, la legislación habría exigido a las empresas de tecnología que poder apagar los modelos de IA que controlan directamente si las cosas salen mal. En su mensaje de veto, Newsom dijo que la legislación podría dar al público una “falsa sensación de seguridad sobre el control de esta tecnología de rápido movimiento” porque apuntaba sólo a modelos de IA costosos y a gran escala y no a sistemas especializados más pequeños. “Aunque tiene buenas intenciones, la SB 1047 no tiene en cuenta si un sistema de IA se implementa en entornos de alto riesgo, implica la toma de decisiones críticas o el uso de datos confidenciales”, decía el mensaje de veto de Newsom. “En cambio, el proyecto de ley aplica estándares estrictos incluso a las funciones más básicas, siempre que lo implemente un sistema grande. No creo que este sea el mejor enfoque para proteger al público de las amenazas reales que plantea la tecnología”. El gobernador también anunció el domingo que su administración ha reclutado líderes en el campo para ayudar al estado a crear protecciones viables para el despliegue de IA. centrándose en analizar sus capacidades y riesgos. Newsom prometió seguir trabajando con la Legislatura sobre el tema en la próxima sesión. El proyecto de ley fue debatido intensamente en Silicon Valley y recibió el apoyo del Centro para la seguridad de la IA, el director ejecutivo de SpaceX, Elon Musk, el consejo editorial del LA Times y destacados investigadores de IA, pero fue con la oposición de la empresa matriz de Facebook, Meta, el fabricante de ChatGPT, OpenAI, y varios congresistas demócratas, incluida la representante Nancy Pelosi (demócrata por San Francisco). Los defensores dijeron que era importante establecer barreras para la tecnología de inteligencia artificial en rápida evolución para evitar futuros daños catastróficos, mientras que los opositores dijeron que tales medidas podrían sofocar la innovación. Si bien es posible que un proyecto de ley supere el veto del gobernador con dos tercios de los votos de ambas cámaras, es un obstáculo importante que superar y sería inusual. Wiener calificó el veto de Newsom como una “oportunidad perdida” para que California lidere la tecnología innovadora. regulación. “Este veto es un revés para todos los que creen en la supervisión de corporaciones masivas que están tomando decisiones críticas que afectan la seguridad y el bienestar del público y el futuro del planeta”, dijo Wiener en un comunicado publicado en las redes sociales. Newsom dijo a principios de este mes en una charla informal en Dreamforce, una conferencia tecnológica de San Francisco, que la SB 1047 había generado un discurso público descomunal, y agregó que había “creado su propio sistema meteorológico”. También habló sobre los desafíos en la regulación de la IA. «Hemos estado trabajando en el transcurso de los últimos dos años para crear alguna regulación racional que respalde la toma de riesgos, pero no la imprudencia…», dijo Newsom. Los opositores a la SB 1047 reunieron recursos para expresar sus puntos de vista. Más de 125 actores, productores, directores, artistas musicales y otros líderes de la industria del entretenimiento, incluidos destacados demócratas, firmaron una carta instando a Newsom a firmar el proyecto de ley. Entre los firmantes de la carta se encontraban los actores Pedro Pascal y Alec Baldwin, así como la productora ejecutiva de “Bridgerton”, Shonda Rhimes. «Queremos seguir creyendo que usted es un líder que defenderá el bienestar de todos, no sólo el de unos pocos gigantes de Silicon Valley», decía la carta. Mientras tanto, la Cámara del Progreso, que se opone al proyecto de ley, publicó un informe generado por IA. canción de rock con letra que incluye «vetar las cadenas que nos sujetan». «Es uno de esos proyectos de ley que llegan a tu escritorio con poca frecuencia, donde depende de quién fue la última persona en la llamada en términos de cuán persuasivo sea». Newsom dijo en una entrevista con The Times a principios de este mes. «Esto ha dividido a mucha gente».