Equilibrando la innovación y la seguridad, hay muchas promesas increíbles en la IA en este momento, pero también un peligro increíble. Los usuarios y las empresas deben confiar en que el sueño de IA no se convertirá en una pesadilla de seguridad. Como he señalado, a menudo dejamos de lado la seguridad en la prisa por innovar. No podemos hacer eso con AI. El costo de equivocarse es colosalmente alto. La buena noticia es que están surgiendo soluciones prácticas. El modelo de permisos de OSO para AI es una de esas solución, convirtiendo la teoría del «menor privilegio» en realidad procesable para las aplicaciones LLM. Al hornear la autorización en el ADN de los sistemas de IA, podemos evitar muchos de los peores escenarios, como una IA que brinda alegremente los datos privados de los clientes a un extraño. Por supuesto, Oso no es el único jugador. Las piezas del rompecabezas provienen del ecosistema más amplio, desde Langchain hasta bibliotecas de barandas hasta herramientas de prueba de seguridad LLM. Los desarrolladores deben tener una visión holística: usar la higiene inmediata, limitar las capacidades de la IA, monitorear sus salidas y aplicar una estricta autorización en los datos y las acciones. La naturaleza agente de los LLM significa que siempre tendrán cierta imprevisibilidad, pero con las defensas en capas podemos reducir ese riesgo a un nivel aceptable.