Oracle está agregando nuevas funciones generativas centradas en IA a su servicio en la nube de análisis de datos Heatwave, anteriormente conocido como MySQL HeatWave. El nuevo nombre destaca cómo HeatWave ofrece más que solo soporte para MySQL, y también incluye HeatWave Gen AI, HeatWave Lakehouse y HeatWave AutoML. dijo Nipun Agarwal, vicepresidente senior de HeatWave en Oracle. En su conferencia anual CloudWorld en septiembre de 2023, Oracle presentó una vista previa de una serie de actualizaciones generativas centradas en IA para lo que entonces era MySQL HeatWave. Estas actualizaciones incluían una interfaz impulsada por un modelo de lenguaje grande (LLM), que permitía a los usuarios empresariales interactuar con diferentes aspectos de el servicio en lenguaje natural, una nueva Vector Store, Heatwave Chat y soporte AutoML para HeatWave Lakehouse. Algunas de estas actualizaciones, junto con capacidades adicionales, se han combinado para formar la oferta HeatWave Gen AI dentro de HeatWave, dijo Oracle, y agregó que todos estas capacidades y características ahora están generalmente disponibles sin costo adicional. Soporte LLM en base de datos para reducir costos Por primera vez entre los proveedores de bases de datos, Oracle ha agregado soporte para LLM dentro de una base de datos, dijeron los analistas. Se espera que el soporte LLM en la base de datos de HeatWave Gen AI, que aprovecha LLM más pequeños con menos parámetros, como Mistral-7B y Llama 3-8B de Meta que se ejecutan dentro de la base de datos, reduzca el costo de infraestructura para las empresas, agregaron. consumo de memoria, pero también permite el uso de CPU en lugar de GPU, lo que lo hace rentable, lo que, dado el costo de las GPU, se convertirá en una tendencia al menos en el corto plazo hasta que AMD e Intel alcancen a Nvidia”, dijo Ron Westfall, investigador. Director de The Futurum Group. Otra razón para utilizar LLM más pequeños dentro de la base de datos es la capacidad de tener más influencia en el modelo con ajustes finos, dijo David Menninger, director ejecutivo de Ventana Research de ISG. “Con un modelo más pequeño, el contexto se proporciona mediante técnicas de recuperación de generación aumentada (RAG). tiene una mayor influencia en los resultados”, explicó Menninger. Westfall también da el ejemplo de los modelos Granite de IBM y dice que el enfoque de utilizar modelos más pequeños, especialmente para casos de uso empresarial, se estaba convirtiendo en una tendencia. Los LLM en bases de datos, según Oracle permitirá a las empresas buscar datos, generar o resumir contenido y realizar RAG con Vector Store de HeatWave. Por separado, HeatWave Gen AI también viene integrado con el Servicio Generativo OCI de la compañía, lo que brinda a las empresas acceso a modelos básicos y previamente capacitados de proveedores de LLM. Tienda de vectores renombrada y procesamiento de vectores escalable. Varios proveedores de bases de datos que aún no ofrecían Las bases de datos vectoriales especializadas han agregado capacidades vectoriales a sus productos durante los últimos 12 meses, entre ellas MongoDB, DataStax, Pinecone y CosmosDB para NoSQL, lo que permite a los clientes crear IA y casos de uso generativos basados ​​en IA sobre los datos almacenados en estas bases de datos sin mover datos. a una base de datos o almacén de vectores independiente. Vector Store de Oracle, que ya se presentó en septiembre, crea automáticamente incrustaciones después de ingerir datos para procesar las consultas más rápido. Otra capacidad agregada a HeatWave Gen AI es el procesamiento de vectores escalable que permitirá a HeatWave admitir VECTOR como tipo de datos y, a su vez, ayuda a las empresas a procesar las consultas más rápido. «En pocas palabras, esto es como agregar RAG a una base de datos relacional estándar», dijo Menninger. “Almacena algo de texto en una tabla junto con una incrustación de ese texto como un tipo de datos VECTOR. Luego, cuando realiza una consulta, el texto de su consulta se convierte en una incrustación. Se compara la incrustación con las de la tabla y las que tienen menor distancia son las más parecidas”. Una interfaz gráfica a través de HeatWave ChatOtra nueva capacidad agregada a HeatWave Gen AI es HeatWave Chat, un complemento de código visual para MySQL Shell que proporciona una interfaz gráfica para HeatWave GenAI y permite a los desarrolladores hacer preguntas en lenguaje natural o SQL. La retención del chat El historial facilita a los desarrolladores refinar los resultados de búsqueda de forma iterativa, dijo Menninger. HeatWave Chat viene con otra característica denominada Lakehouse Navigator, que permite a los usuarios empresariales seleccionar archivos del almacenamiento de objetos para crear un nuevo almacén de vectores. Esta integración está diseñada para mejorar experiencia del usuario y eficiencia de los desarrolladores y analistas que crean una tienda de vectores, dijo Westfall. Copyright © 2024 IDG Communications, Inc.