La IA generativa ha tenido un impacto enorme e inmediato en el desarrollo de software. Los desarrolladores de software han adoptado herramientas de IA generativa que ayudan con la codificación y están trabajando febrilmente para crear ellos mismos aplicaciones de IA generativa. Las bases de datos pueden ayudar, especialmente las bases de datos rápidas, escalables y multimodelo como SingleStore. En la conferencia inaugural SingleStore Now, SingleStore anunció varias innovaciones centradas en la IA pensando en los desarrolladores. Estos incluyen búsqueda híbrida SingleStore, servicio informático, portátiles y Elegance SDK. Dado el impacto que la IA y los LLM están teniendo en los desarrolladores, tiene sentido profundizar en las formas en que estas innovaciones facilitan el desarrollo de aplicaciones de IA. Búsqueda híbrida de SingleStore Si ha estado trabajando con IA o LLM de alguna manera, sabe que las bases de datos vectoriales se han vuelto mucho más populares debido a su capacidad para ayudarlo a buscar las n representaciones más cercanas de los datos con los que está trabajando. Luego puede utilizar esos resultados de búsqueda para proporcionar contexto adicional a su LLM para que las respuestas sean más precisas. SingleStoreDB ha admitido funciones vectoriales y búsqueda de vectores desde hace varios años, pero las aplicaciones de IA generativa requieren que usted busque entre millones o miles de millones de incrustaciones de vectores en milisegundos, lo que resulta difícil al utilizar k-Vecino más cercano (kNN) en conjuntos de datos enormes. Híbrido La búsqueda agrega la búsqueda de vecino más cercano aproximado (ANN) como una opción adicional a la búsqueda de k-vecino más cercano (kNN) ya existente. La principal diferencia entre ANN y kNN está en el nombre: aproximado versus más cercano. Las pruebas iniciales muestran que las ANN son órdenes de magnitud más rápidas para la búsqueda de vectores, lo que lleva los casos de uso de IA de rápido a tiempo real. La búsqueda vectorial en tiempo real garantiza que sus aplicaciones respondan instantáneamente a las consultas, incluso cuando los datos se acaban de escribir en la base de datos. La búsqueda híbrida utiliza una serie de técnicas para hacer que sus funciones de búsqueda sean más eficaces, concretamente archivos invertidos (IVF) con cuantificación de productos. (PQ). Con IVF con PQ, puede reducir los tiempos de creación de su índice mientras mejora las relaciones de compresión y la huella de memoria de sus búsquedas de vectores. Más allá de IVF con PQ, la búsqueda híbrida agrega el enfoque de mundo pequeño navegable jerárquico (HNSW) para permitir búsquedas de índices vectoriales de alto rendimiento utilizando alta dimensionalidad. Con la búsqueda híbrida, puede combinar todos estos nuevos enfoques de indexación, junto con la búsqueda de texto completo. , para combinar búsqueda semántica híbrida (similitud vectorial) y léxica/palabra clave en una sola consulta. A continuación puede ver un ejemplo del uso de la búsqueda híbrida. Para ver el código en su contexto más amplio, consulte el cuaderno completo en SingleStore Spaces.hyb_query = ‘Artículos sobre capturas australianas’ hyb_embedding = model.encode(hyb_query) # Cree la declaración SQL. hyb_statement = sa.text(»’ SELECCIONAR título, descripción, género, DOT_PRODUCT(incrustación, :incrustación) AS puntuación_semántica, COINCIDIR(título, descripción) CONTRA (:consulta) AS puntuación_palabra clave, (puntuación_semántica + puntuación_palabra clave) / 2 AS puntuación_combinada FROM news.news_articles ORDER BY combinado_score DESC LIMIT 10 »’) # Ejecutar la instrucción SQL. hyb_results = pd.DataFrame(conn.execute(hyb_statement, dict(embedding=hyb_embedding, query=hyb_query))) hyb_resultsLa consulta anterior encuentra las puntuaciones promedio de las búsquedas semánticas y de palabras clave, las combina y clasifica los artículos de noticias según esta puntuación calculada. Al eliminar la complejidad adicional de realizar búsquedas léxicas/de palabras clave y semánticas por separado, la búsqueda híbrida simplifica el código de su aplicación. La implementación de estas nuevas estrategias de indexación por parte de SingleStore también nos permite incorporar rápidamente nuevas estrategias a medida que estén disponibles, lo que garantiza que su aplicación siempre tendrá el mejor rendimiento cuando esté respaldada por SingleStoreDB. Servicio informático SingleStore Cuando trabaja con conjuntos de datos extremadamente grandes, una de las Lo mejor que puede hacer para mantener bajo control el rendimiento y los costos es realizar el trabajo informático lo más cerca posible de los datos. El servicio informático SingleStore le permite implementar recursos informáticos (CPU y GPU) para cargas de trabajo de IA, aprendizaje automático o ETL (extraer, transformar, cargar) junto con sus datos. Con el servicio informático, los clientes de SingleStore pueden utilizar estos nuevos recursos informáticos para ejecutar sus propios modelos de aprendizaje automático u otro software de una manera que les permita tener el contexto completo de sus datos empresariales, sin preocuparse por el rendimiento y el costo de salida. servicio de trabajo (vista previa privada), puede programar trabajos de SQL y Python desde SingleStore Notebooks para procesar sus datos, entrenar o ajustar un modelo de aprendizaje automático o realizar otros trabajos complejos de transformación de datos. Si su empresa actualiza con frecuencia el ajuste de su modelo de IA o LLM, ahora puede hacerlo de manera programada, utilizando plataformas informáticas optimizadas que se encuentran junto a sus datos. SingleStore NotebooksMuchos ingenieros y científicos de datos se sienten cómodos trabajando con Jupyter Notebooks. Documentos alojados, interactivos y compartibles en los que puede escribir y ejecutar bloques de código, intercalados con documentación y visualizar datos. Lo que a menudo falta en un entorno Jupyter son conexiones nativas a sus bases de datos y funcionalidad SQL. Con el anuncio de la disponibilidad general de SingleStore Notebooks, SingleStore le facilita explorar, visualizar y colaborar con sus datos y pares en tiempo real. Comenzar a usar SingleStore Notebooks es extremadamente simple: Inicie su prueba gratuita de SingleStoreDB Cloud Complete el proceso de incorporación Implemente un espacio de trabajo En el panel de navegación de la izquierda, verá Notebooks. Haga clic en el signo más junto a Notebooks y complete los detalles. Si tiene la intención de compartir este cuaderno con sus colegas, asegúrese de elegir Compartido en Ubicación. Establezca el idioma de celda predeterminado en el idioma que utilizará principalmente en el cuaderno y luego haga clic en crear. IDGNota: También puede elegir una de las plantillas o seleccionarla de la galería, si desea ver cómo se ve un Notebook. Para un ejemplo útil, importé un notebook de la galería llamado «Introducción a DataFrames en SingleStoreDB». .” Este cuaderno lo guía a través del proceso de uso de pandas DataFrames para aprovechar mejor la naturaleza distribuida de SingleStoreDB. IDGCuando seleccione el Espacio de trabajo y la Base de datos en la parte superior del cuaderno, se actualizará la variable Connection_url para que pueda conectarse y trabajar con sus datos rápida y fácilmente. En este cuaderno, usamos un comando simple, conn = ibis.singlestedb. connect(), para crear una conexión a la base de datos. Ya no tendrá que preocuparse por armar la cadena de conexión, eliminando una cosa más del complejo proceso de crear un prototipo de algo utilizando sus datos. IDGIn Notebooks, simplemente selecciona el botón Reproducir al lado de cada celda para ejecutar ese bloque de código. En la captura de pantalla anterior, estamos importando paquetes ibis y pandas. SingleStore Notebooks es una plataforma extremadamente poderosa que le permitirá crear prototipos de aplicaciones, realizar análisis de datos y repetir rápidamente tareas que pueda necesitar realizar utilizando los datos que se encuentran dentro de SingleStoreDB. . Esta creación rápida de prototipos es una forma extremadamente efectiva de ver cómo podría implementar IA, LLM u otros métodos de big data en su negocio. Asegúrese de visitar SingleStore Spaces para ver una gran muestra de Notebooks que muestran cualquier cosa, desde la comparación de imágenes hasta la creación de LLM. aplicaciones que utilizan generación de recuperación aumentada (RAG) en sus propios datos.SingleStore EleganceSingleStore Elegance es un paquete NPM diseñado para ayudar a los desarrolladores de React a crear rápidamente aplicaciones sobre SingleStoreDB utilizando conexiones SingleStore Kai o MySQL a la base de datos. Con el lanzamiento de Elegance, nunca ha habido un mejor momento para desarrollar una aplicación de IA respaldada por SingleStoreDB. Elegance ofrece un potente SDK que cubre una serie de características: Búsqueda de vectores Finalización de chat Incrustaciones y generación de archivos desde CSV o PDF SQL y agregados consultas Soporte de conexión de base de datos SQL y Kai Controladores Node.js listos para usar y ganchos React Comenzar con una aplicación de demostración es tan simple como seguir unos pocos pasos simples: Clonar este repositorio: git clone https://github.com/ singlestore-labs/elegance-sdk-app-books-chat.git Regístrese en SingleStoreDB. Crea una base de datos: books_chat_mysql. Cree un archivo .env actualizado basado en el archivo .env.sample del repositorio. Instale las dependencias: npm i Inicie la aplicación: sh ./scripts/start.sh Abra su navegador web: http://localhost:3000. Si prefiere comenzar desde cero y crear algo por su cuenta, puede comenzar con una simple instalación de npm en @singlestore/elegance-sdk y seguir los pasos desde nuestra página de paquetes en npmjs.com. En tiempo real, ahora mismo. El panorama está cambiando rápidamente con la incorporación de la IA y los LLM, lo que hace que casi todos evalúen si deberían o no implementar alguna forma de IA. Muchas empresas ya están organizando pruebas de concepto. Estos lanzamientos muestran que SingleStore está 100% enfocado en crear una base de datos de inteligencia artificial y análisis en tiempo real que le brinde las herramientas que necesita para crear sus aplicaciones de manera rápida y eficiente, logrando que sus proyectos de inteligencia artificial y LLM lleguen al mercado más rápido. Esto resume las innovaciones de inteligencia artificial. que surgió de SingleStore Now. En caso de que no haya podido asistir al evento en persona, puede ver todas las sesiones a pedido. Wes Kennedy es un evangelista principal en SingleStore, donde crea contenido, entornos de demostración y videos, y profundiza en las formas en que podemos conocer a los clientes. Dónde están. Tiene una experiencia diversa en tecnología que abarca desde ingeniero de virtualización, ingeniero de ventas hasta marketing técnico. Generative AI Insights proporciona un lugar para que los líderes tecnológicos, incluidos proveedores y otros contribuyentes externos, exploren y discutan los desafíos y oportunidades de la tecnología generativa. inteligencia artificial. La selección es amplia, desde análisis profundos de tecnología hasta estudios de casos y opiniones de expertos, pero también subjetiva, basada en nuestro juicio sobre qué temas y tratamientos servirán mejor a la audiencia técnicamente sofisticada de InfoWorld. InfoWorld no acepta garantías de marketing para su publicación y se reserva el derecho de editar todo el contenido aportado. Póngase en contacto con doug_dineley@foundryco.com. Copyright © 2024 IDG Communications, Inc.

Source link