La IA de código abierto puede esquivar lo peor de la inminente regulación estadounidense, y eso podría convertirla en una alternativa popular a los sistemas cerrados en desarrollo. Según informes de Associated Press, publicados en ABC News, el gobierno de Estados Unidos está dispuesto a argumentar que los sistemas de IA de código abierto son menos riesgosos que sus contrapartes cerradas, lo que sugiere que hay menos necesidad de restringir a las empresas que fabrican sistemas abiertos. Ese es el resultado de la petición del presidente Joe Biden el año pasado al Departamento de Comercio de Estados Unidos de que considere los méritos de los modelos abiertos, que no son de código abierto pero tienen detalles disponibles públicamente, como los pesos en el modelo. Por ejemplo, Mark Zuckerberg, de Meta, ha abogado por que la IA sea más abierta, mientras que OpenAI prefiere mantener bloqueado el funcionamiento de sus sistemas. «Hace un año, había una fuerte narrativa sobre el riesgo y las preocupaciones a largo plazo sobre que los sistemas de IA fueran demasiado poderosos», dijo a AP Alan Davidson, secretario adjunto del Departamento de Comercio de Estados Unidos. «Seguimos teniendo preocupaciones sobre la seguridad de la IA, pero este informe refleja una visión más equilibrada que muestra que hay beneficios reales en la apertura de estas tecnologías». IA de código abierto frente a IA de código cerrado El informe estadounidense destaca el debate entre sistemas abiertos y cerrados. Cabe destacar que los defensores de la primera no solo creen que la transparencia puede ayudar a mitigar riesgos como el sesgo, sino que también ayuda a estimular la innovación, a diferencia de los sistemas cerrados que no permiten compartir o mejorar las ideas, pero sí evitan que las tecnologías clave se utilicen de manera peligrosa por parte de personas ajenas a la empresa. Angus Allan, gerente sénior de productos de CreateFuture, dijo a ITPro que, si bien los primeros días del «auge» de la IA generativa han estado dominados por modelos propietarios de código cerrado, el desarrollo de código abierto está comenzando a ganar terreno. Reciba nuestras últimas noticias, actualizaciones de la industria, recursos destacados y más. Regístrese hoy para recibir nuestro informe GRATUITO sobre ciberdelito y seguridad de la IA, actualizado recientemente para 2024. «Hasta hace poco, los modelos de IA de ‘última generación’ han sido casi exclusivamente producto de modelos de código cerrado como ChatGPT, Gemini y Claude», dijo.»Los modelos de código abierto se han quedado rezagados con respecto a sus pares, lo que significa que no ha habido motivación para regularlos estrictamente». Eso cambió con Meta, que ha adoptado un enfoque más abierto, señaló.»Meta ha sido pionera en la defensa del desarrollo de modelos de IA de código abierto, y su último modelo, Llama 3.1, está a la par de sus homólogos de código cerrado, incluso superando al GPT-4 original en muchos puntos de referencia». Pero Chris Black, evangelista de IA en la empresa de radiodifusión Vizrt, dijo a ITPro que existen riesgos para los modelos abiertos, y eso significa que puede estar justificada cierta regulación. «La inminente Ley de IA de la UE muestra que se pueden establecer barandillas de seguridad razonables sin obstaculizar la innovación, haciendo excepciones para algunos modelos de código abierto que se desarrollan con total transparencia», dijo Black.»Teniendo esto en cuenta, la colocación de EE. UU.La poca o ninguna regulación de los modelos de código abierto plantea un cierto grado de riesgo… La libertad de acción de los modelos de IA de código abierto podría sentar un precedente peligroso de fácil acceso a tecnologías poderosas por parte de actores maliciosos”. De hecho, si bien la transparencia que ofrecen los sistemas abiertos puede mitigar algunos problemas, no resuelve todos los peligros que plantea la IA, dijo Ilia Kolochenko, CEO de ImmuniWeb. “Técnicamente hablando, si bien la IA de código abierto, como sea que la definamos, puede proporcionar un mayor grado de transparencia en comparación con las tecnologías de IA patentadas, otros riesgos, incluidas las alucinaciones e inexactitudes, la capacidad de causar daño, la infracción de la propiedad intelectual y los riesgos de privacidad, no se mitigan necesariamente de ninguna manera por el hecho de que la IA sea una IA de código abierto”, dijo. ¿Las empresas también deberían favorecer la IA de código abierto? Esquivar posibles medidas regulatorias restrictivas podría ser una razón para considerar el uso de modelos de código abierto en su negocio, pero no es el único factor a considerar, según Allan. Este último sello de aprobación de los funcionarios estadounidenses probablemente esté “señalando a la industria” que su preferencia es estimular la innovación abierta. Según Allan, esto podría «inclina la balanza en términos de adopción de modelos de código abierto por parte de la industria». «Sin embargo, para las empresas, el foco no debería estar en una diferencia en el régimen regulatorio, la diferencia está en el rendimiento, la seguridad y el costo», agregó. «Y los modelos de código abierto ahora compiten fuertemente en estas métricas». Paul Henninger, director de tecnología conectada de KPMG UK, argumentó que los sistemas abiertos pueden ser más rentables para empezar, pero aumentan el costo cuando se adaptan a tareas específicas. Henninger aconsejó a las empresas que consideren qué tan bien se puede adaptar cualquier IA para cumplir con los objetivos de las empresas. «Los sistemas abiertos son la mejor manera de mantener el acceso a las últimas investigaciones sobre resolución de problemas de IA porque se benefician del conocimiento colectivo y las mejoras de la comunidad», agregó. «La naturaleza democrática de la tecnología significa que la transformación a largo plazo depende de un amplio acceso a las herramientas. Por otro lado, participar en el sistema abierto significa compartir la innovación y los avances con los competidores. «¿Qué es la IA de código abierto? Es problemático que varios informes gubernamentales no hayan definido lo que quieren decir con IA de código abierto. Si bien el software de código abierto tiene definiciones y licencias específicas, ese no es el caso de la IA abierta, advirtió Kolochenko: «En primer lugar, es necesario dar una definición clara de la IA de código abierto. ¿Significa que, por ejemplo, el LLM será de acceso público? ¿Significa que la arquitectura del modelo y los algoritmos subyacentes se documentarán públicamente o se divulgarán de otro modo? ¿Significa que los datos de entrenamiento del modelo estarán disponibles públicamente o al menos se describirán de manera integral? Finalmente, ¿significa que el modelo se entrena legalmente con datos de acceso público? Todas estas son preguntas separadas y complejas pero interrelacionadas, que la gente confunde con frecuencia». Amanda Brock, directora ejecutiva de OpenUK, estuvo de acuerdo en que la terminología importa: si la IA de código abierto tendrá menos restricciones que los sistemas cerrados, debemos definir qué significa cada uno y dejar de llamarlo «abierto». «La verdadera pregunta para cada gobierno es, por supuesto, qué son los ‘sistemas abiertos’ de IA, que la prensa y Meta insisten en llamar IA de código abierto», dice. «En este momento, a pesar de que la Ley de IA de la UE excluye la ‘IA libre y de código abierto, ninguno de los términos tiene un significado». Brock señaló que hay esfuerzos para definir la IA de código abierto, pero advirtió que cualquier definición debe incluir todos los aspectos de la IA, con una comprensión completa de lo que significa que cada uno sea parcial o totalmente abierto y los beneficios y riesgos de cada uno; señaló el reciente Informe de la Universidad Radboud que divide los sistemas en 14 componentes clave como ejemplo. «Entender los principios del software de código abierto en el corazón de la Definición de Software de Código Abierto es clave: el flujo libre donde cualquiera puede usarlo para cualquier propósito elimina la fricción de otras licencias o pagos», agregó Brock. «Llama de Meta, aunque es un gran paso en la dirección correcta de la apertura, está limitado en lo que es abierto e introduce fricción con las restricciones comerciales en la licencia».