Inteligencia artificial y aprendizaje automático, Black Hat, Eventos Brennan Lodge de la Universidad de Nueva York sobre cómo entrenar su propio modelo con generación aumentada por recuperación Tom Field (SecurityEditor) • 19 de agosto de 2024 Brennan Lodge, profesor de tecnología de la información y análisis de datos de la Universidad de Nueva York Muchas organizaciones de ciberseguridad esperan que la inteligencia artificial generativa y los modelos de lenguaje grandes les ayuden a proteger la empresa y cumplir con las últimas regulaciones. Pero hasta la fecha, los LLM comerciales tienen grandes problemas: alucinaciones y falta de datos oportunos, dijo Brennan Lodge, profesor de tecnología de la información y análisis de datos en la Universidad de Nueva York. Ver también: Cierre las brechas en su estrategia de seguridad Lodge defendió que las organizaciones desarrollen su propio LLM utilizando generación aumentada por recuperación, o RAG, que actualiza continuamente los datos y los clasifica por el tipo de información que contienen, similar a un sistema de catálogo de tarjetas en una biblioteca, para ayudar a eliminar otro problema importante que plantean los LLM comerciales listos para usar: la falta de visibilidad sobre cómo se entrenaron. El prototipo de base de datos vectorial RAG de Lodge incluye un enlace a información complementaria con cada respuesta, para ayudar a escudriñar la “caja negra” del LLM. “Al menos tienes una referencia a la que conectarte y puedes sentirte más seguro acerca del sistema que administras”, dijo Lodge. “Eres dueño de los datos y puedes usarlos para cuestiones de ciberseguridad”. RAG podría ayudar a un analista de seguridad a examinar las fuentes de inteligencia de amenazas, las alertas de vulnerabilidad o las últimas actualizaciones del marco MITRE. El personal de riesgo y cumplimiento podría usar el sistema para monitorear y responder continuamente a las nuevas regulaciones mediante la creación de un “análisis de brechas automatizado” de las políticas existentes de la organización. En esta entrevista en video con Information Security Media Group en Black Hat 2024, Lodge también analizó: Las fortalezas y debilidades de los LLM tradicionales; Casos de uso para la generación aumentada por recuperación y opciones para la implementación; El papel de las herramientas de IA en las operaciones de ciberseguridad. Lodge, que se enfoca en la gestión de información y datos en NYU, también se desempeña como cofundador y director de tecnología de Skidaway. Ha trabajado en el sector de servicios financieros durante más de 15 años y ha ocupado puestos de liderazgo, de ciencia de datos y de ciberseguridad en JP Morgan Chase, el Banco de la Reserva Federal de Nueva York, Bloomberg y Goldman Sachs. URL de la publicación original: https://www.databreachtoday.com/building-timely-truthful-llms-for-security-operations-a-26065