Databricks se está preparando para ofrecer más soporte a las empresas que crean aplicaciones de IA generativa, con la adición de nuevas capacidades de Mosaic AI, dijo el miércoles. Las nuevas características, presentadas en la Cumbre Data + AI en curso del proveedor de data lakehouse, buscan simplificar la capacitación y Gestión de aplicaciones de IA generativa. Se unen a un conjunto de otros creados a partir de la adquisición del proveedor de software de entrenamiento de modelos y modelos de lenguaje grande (LLM) MosaicML por 1.300 millones de dólares hace un año. Mosaic AI Agent Framework para acelerar el desarrollo de aplicaciones de IA de generación En primer lugar, Mosaic AI Agent Framework, ahora en vista previa pública, tiene como objetivo acelerar el desarrollo de aplicaciones de IA generativa respaldadas por la generación aumentada de recuperación (RAG), una técnica útil para conectar modelos fundamentales en datos empresariales. Si bien los usuarios de Databricks han podido construir RAG sobre su plataforma durante algún tiempo Utilizando medios alternativos, Mosaic AI Agent Framework puede verse como la empresa que pone en funcionamiento y produce esta faceta de la IA generativa, dijeron los analistas. propios modelos integrados, algoritmos integrados y creación de su propia tienda de vectores”, dijo Bradley Shimmin, analista jefe de Omdia. Además, el analista dijo que la decisión de Databricks de obtener una vista previa del AI Agent Framework está en línea con la tendencia del mercado de todos los modelos. Los fabricantes presionan para desarrollar sus capacidades de modelo de incrustación patentadas. “Al principio, el modelo de integración de OpenAI realmente se convirtió en la norma, pero a medida que estamos aprendiendo, los modelos de integración son tan importantes, si no más, que los LLM generativos en términos de garantizar que el significado contextual de la información corporativa se presente de manera más efectiva a un LLM para un una gran cantidad de casos de uso”, explicó Shimmin. En noviembre, su rival Snowflake agregó capacidades similares a su oferta Cortex. Además del marco Agent AI, Databricks también ha agregado la herramienta AI Agent Assessment, que también se encuentra en versión preliminar pública. La herramienta, según la compañía, utiliza AI para verificar si los resultados de una aplicación basada en RAG son de alta calidad y proporciona una interfaz para permitir la retroalimentación de las partes interesadas humanas. En la fase de experimentación e investigación, la compañía nombró esta capacidad como Mosaic AI Quality Lab. Mosaic AI Gateway para ayudar a gobernar aplicaciones y modelos. Otra incorporación, Mosaic AI Gateway, tiene como objetivo ayudar a las empresas a administrar sus LLM. y aplicaciones generativas basadas en IA. Proporciona una interfaz unificada para consultar, administrar e implementar cualquier modelo propietario o de código abierto, dijo Databricks, y agregó que esto permite a las empresas cambiar el LLM que impulsa sus aplicaciones sin necesidad de realizar cambios complicados en el código de la aplicación. Sus barreras de seguridad también permiten a las empresas rastrear quién llama al modelo, establecer límites de tarifas para controlar el gasto y filtrar por seguridad e información de identificación personal (PII). La nueva capacidad, según Shimmin de Omdia, se basa en la API ML Gateway de la compañía presentada el año pasado. “Básicamente, está destinada a ayudar a los clientes a optimizar la forma en que los desarrolladores escriben código para LLM, creando una capa de abstracción de coherencia para intercambiar mejor dentro y fuera de varios activos de IA. , como modelos, fuentes de datos, etc.” dijo Shimmin. La interfaz AI Gateway también aborda «una necesidad crucial» para que las empresas monitoreen y controlen el uso del modelo mientras garantizan el cumplimiento, según Steven Dickens, líder de práctica de nube híbrida en The Futurum Group. La compañía también está introduciendo un conjunto de herramientas para ejecutar LLM y operarlos, bajo el encabezado del Catálogo de herramientas Mosaic AI. A diferencia de las otras incorporaciones, esta se encuentra en una vista previa privada. ¿Estas nuevas características mantendrán a Databricks por delante de Snowflake? Se espera que las nuevas características y herramientas agregadas a Databricks solidifiquen su posición en el mercado, dijeron los analistas, y agregaron que la compañía todavía está rezagada en algunas áreas, especialmente en comparación con Snowflake.Doug Henschen , analista principal de Constellation Research, dijo: «Databricks es líder en las áreas de IA e IA generativa, pero todavía tiene mucho que demostrar en el almacenamiento de datos y está detrás de Snowflake en el mercado de datos y las aplicaciones de datos». plataforma y ofrece relativamente más facilidad de uso, tiene más ingresos, mejores oportunidades de asociación de plataformas y, como resultado, lo que parece una oportunidad de mercado más grande”, explicó Henschen. Al explicar más sobre la rivalidad entre Snowflake y Databricks, el analista jefe de dbInsights Tony Baer dijo que ambas compañías están abordando la IA desde diferentes puntos de partida y ambas buscan llegar al mismo lugar. Databricks siempre ha sido la plataforma para ingenieros y científicos de datos y, por lo tanto, se ha diferenciado con su enfoque hacia profesionales más técnicos desde el días de MLFlow, explicó el analista, añadiendo que Snowflake, por otro lado, vino del mercado tradicional de almacenamiento de datos y estaba dirigido a analistas de negocios. “Ambos apuntan a los electores del otro. Y así se puede ver en los últimos anuncios, donde Databricks ha introducido herramientas para trabajar con agentes de IA, mientras que Snowflake Cortex en esencia enterrará las complejidades de RAG bajo el capó”, dijo Baer. Por otra parte, el analista jefe de Amalgam Insights, Hyoun Park, señaló señaló que Databricks había comenzado a denominar la mayoría de sus capacidades generativas relacionadas con la IA con la marca Mosaic. «Este podría ser un esfuerzo de Databricks para aumentar la cantidad de ingresos asociados con MosaicML, lo que a su vez ayudaría a justificar la adquisición de 1.300 millones de dólares», Park dicho. Copyright © 2024 IDG Communications, Inc.