En un intento por «profundizar la conversación pública sobre cómo deberían comportarse los modelos de IA», la empresa de IA OpenAI ha presentado Model Spec, un documento que comparte el enfoque de la empresa para dar forma al comportamiento deseado del modelo. Model Spec, ahora en un primer borrador, se presentó en mayo 8. El documento especifica el enfoque de OpenAI para dar forma al comportamiento deseado del modelo y cómo la empresa evalúa las compensaciones cuando surgen conflictos. El enfoque incluye objetivos, reglas y comportamientos predeterminados que guiarán a los investigadores y formadores de IA de OpenAI que trabajan en el aprendizaje por refuerzo a partir de la retroalimentación humana (RLHF). La compañía también explorará cuánto pueden aprender sus modelos directamente de la especificación del modelo. La especificación del modelo se basa en la documentación utilizada actualmente en OpenAI, la experiencia de la compañía y la investigación en curso en el diseño del comportamiento del modelo y trabajos más recientes, incluidos aportes de expertos en el dominio. Dijo Open AI. La compañía espera que las especificaciones del modelo cambien con el tiempo. Los objetivos de las especificaciones del modelo incluyen ayudar al desarrollador y al usuario, beneficiar a la humanidad y reflejar bien OpenAI. Las reglas incluyen seguir la cadena de mando, cumplir con las leyes aplicables, respetar a los creadores, proteger la privacidad, no responder con contenido que no sea seguro para el trabajo y no proporcionar información peligrosa. Los comportamientos predeterminados incluyen fomentar la justicia y la amabilidad, usar la herramienta adecuada para el trabajo, asumir las mejores intenciones del usuario o desarrollador, expresar incertidumbre y ser lo más útil posible sin excederse. OpenAI dijo que considera su trabajo en la especificación del modelo como parte de una conversación pública en curso. La empresa busca oportunidades para interactuar con partes interesadas representativas a nivel mundial, incluidos formuladores de políticas, instituciones confiables y expertos en el campo, para saber cómo entienden el enfoque, si lo apoyan y si hay objetivos, reglas y valores predeterminados adicionales que deben considerarse. Copyright © 2024 IDG Communications, Inc.