En un discurso de apertura en la Conferencia Internacional IEEE/ACM sobre Diseño Asistido por Computadora el lunes, el director de tecnología de Nvidia, Bill Dally, reveló que la compañía ha estado probando un modelo de IA en lenguaje grande para aumentar la productividad de sus diseñadores de chips. los hicimos un 5 por ciento más productivos, eso es una gran victoria”, dijo Dally en una entrevista antes de la conferencia. Nvidia no puede afirmar que haya alcanzado ese objetivo todavía. El sistema, llamado ChipNeMo, no está preparado para el tipo de prueba grande (y prolongada) que realmente demostraría su valor. Pero un grupo de voluntarios de Nvidia lo está utilizando y hay algunos indicios positivos, afirmó Dally. ChipNeMo es una versión especialmente adaptada de un modelo de lenguaje grande. Comienza como un LLM compuesto por 43 mil millones de parámetros que adquiere sus habilidades a partir de un billón de tokens (unidades lingüísticas fundamentales) de datos. «Eso es como darle una educación en artes liberales», dijo Dally. «Pero si quieres enviarlo a la escuela de posgrado y especializarlo, debes ajustarlo en un corpus de datos particular… en este caso, el diseño de chips». Eso requirió dos pasos más. Primero, ese modelo ya entrenado se volvió a entrenar con 24 mil millones de tokens de datos especializados. Doce mil millones de esos tokens provinieron de documentos de diseño, informes de errores y otros datos internos en inglés acumulados durante los 30 años de trabajo de Nvidia en el diseño de chips. Los otros 12 mil millones de tokens provinieron de código, como el lenguaje de descripción de hardware Verilog y scripts para llevar a cabo cosas con herramientas de automatización de diseño electrónico industrial (EDA). Finalmente, el modelo resultante se sometió a un “ajuste supervisado”, entrenándose en 130.000 conversaciones y diseños de muestra. Al resultado, ChipNeMo, se le asignaron tres tareas diferentes: como chatbot, como guionista de la herramienta EDA y como resumidor. de informes de errores. Actuar como un chatbot para ingenieros podría ahorrar tiempo a los diseñadores, dijo Dally. «Los diseñadores senior dedican mucho tiempo a responder preguntas de los diseñadores junior», dijo. Como chatbot, la IA puede ahorrar tiempo al diseñador senior respondiendo preguntas que requieren experiencia, como qué podría significar una señal extraña o cómo se debe ejecutar una prueba específica. Sin embargo, los chatbots son conocidos por su disposición a mentir cuando no lo hacen. conocen la respuesta y su tendencia a alucinar. Entonces, los desarrolladores de Nvidia integraron una función llamada generación aumentada de recuperación en ChipNeMo para mantenerlo en el nivel. Esa función obliga a la IA a recuperar documentos de los datos internos de Nvidia para respaldar sus sugerencias. La incorporación de la generación de recuperación aumentada «mejora bastante la precisión», dijo Dally. «Más importante aún, reduce las alucinaciones». En su segunda aplicación, ChipNeMo ayudó a los ingenieros a realizar pruebas en diseños y partes de ellos. «Utilizamos muchas herramientas de diseño», dijo Dally. «Estas herramientas son bastante complicadas y normalmente implican muchas líneas de secuencias de comandos». ChipNeMo simplifica el trabajo del diseñador al proporcionar una «interfaz humana muy natural para lo que de otro modo serían comandos muy arcanos». El caso de uso final de ChipNeMo, que analiza y resume los informes de errores, «es probablemente aquel en el que vemos las perspectivas de mayor aumento de productividad». lo antes posible”, dijo Dally. Cuando una prueba falla, explicó, se registra en el sistema interno de informe de errores de Nvidia, y cada informe puede incluir páginas y páginas de datos detallados. Luego se envía un «ARB» (abreviatura de «acción requerida por») a un diseñador para que lo solucione, y el tiempo comienza a correr. ChipNeMo resume las muchas páginas del informe de error en tan solo un párrafo, lo que acelera las decisiones. Incluso puede escribir ese resumen en dos modos: uno para el ingeniero y otro para el gerente. Los fabricantes de herramientas de diseño de chips, como Synopsys y Cadence, se han sumergido en la integración de la IA en sus sistemas. Pero según Dally, no podrán lograr lo mismo que Nvidia busca. “Lo que nos permite hacer esto son 30 años de documentos de diseño y código en una base de datos”, dijo. ChipNeMo está aprendiendo «de toda la experiencia de Nvidia». Las empresas de EDA simplemente no tienen ese tipo de datos. Artículos de su sitio Artículos relacionados en la Web

Source link