El año pasado, el gobernador de California, Gavin Newsom, vetó un proyecto de ley tremendamente popular (entre el público) y muy controvertido (entre las empresas tecnológicas) que habría establecido directrices de seguridad sólidas para el desarrollo y operación de modelos de inteligencia artificial. Ahora tendrá una segunda oportunidad, esta vez con al menos parte de la industria tecnológica que le da luz verde. El sábado, los legisladores de California aprobaron el proyecto de ley 53 del Senado, una legislación histórica que requeriría que las compañías de IA se sometan a nuevas pruebas de seguridad. El proyecto de ley 53 del Senado, que ahora espera la firma del gobernador para convertirse en ley en el estado, requeriría que las empresas que construyan modelos de IA «fronterizos», sistemas que requieren cantidades masivas de datos y poder informático para operar, para proporcionar más transparencia en sus procesos. Eso incluiría revelar incidentes de seguridad que involucran un comportamiento peligroso o engañoso por sistemas de IA autónomos, proporcionando más claridad sobre los protocolos de seguridad y evaluaciones de riesgos, y proporcionando protecciones para los denunciantes que están preocupados por los posibles daños que pueden provenir de los modelos en los que están trabajando. El proyecto de ley, que se aplicaría al trabajo de empresas como OpenAi, Google, Xai, Anthrope y otros, ciertamente se ha opuesto por los intentos anteriores de establecer un amplio marco de seguridad para la industria de la IA. El proyecto de ley que Newsom vetó el año pasado, por ejemplo, habría establecido un «interruptor de matar» obligatorio para que los modelos aborden el potencial de ellos que se vuelven deshonestos. Eso no se encuentra aquí. Una versión anterior de SB 53 también aplicó los requisitos de seguridad a empresas más pequeñas, pero eso ha cambiado. En la versión que aprobó el Senado y la Asamblea, las empresas que aportan menos de $ 500 millones en ingresos anuales solo tienen que revelar detalles de seguridad de alto nivel en lugar de más información granular, según Politico, un cambio realizado en parte a instancias de la industria tecnológica. Aún no se ha visto si eso es suficiente para satisfacer a Newsom (o más específicamente, satisfacer a las compañías tecnológicas de las que le gustaría continuar recibiendo contribuciones de campaña). Anthrope se suavizó recientemente en la legislación, optando por lanzar su apoyo detrás de él solo unos días antes de que se aprobara oficialmente. Pero grupos comerciales como la Asociación de Tecnología del Consumidor (CTA) y la Cámara para el Progreso, que cuentan entre sus miembros como Amazon, Google y Meta, han salido en oposición al proyecto de ley. Operai también señaló su oposición a las regulaciones que California ha estado persiguiendo sin nombrar específicamente a SB 53. Después de que la administración Trump intentó y no implementó una moratoria de 10 años en los estados que implementan regulaciones sobre IA, California, tiene la oportunidad de liderar el tema, lo que tiene sentido, dada la mayoría de las compañías en el frente del espacio están operando dentro de sus bordes. Pero ese hecho también parece ser parte de la razón por la cual Newsom es tan tímido para apretar el gatillo a pesar de todo su bravucón en muchos otros temas. Sus ambiciones políticas requieren dinero para correr, y esas compañías tienen mucho que ofrecer.
