Se estima que la IA generativa añade anualmente entre 2,6 y 4,4 billones de dólares en beneficios económicos a la economía global, según McKinsey. Este pronóstico se basa en 63 nuevos casos de uso que podrían ofrecer mejoras, eficiencias y nuevos productos para clientes en múltiples mercados. Esta es una gran oportunidad tanto para los desarrolladores como para los líderes de TI. En el centro de la promesa de la IA generativa están los datos. Los datos permiten que la IA generativa comprenda, analice e interactúe con el mundo que nos rodea, impulsando sus capacidades transformadoras. Para tener éxito con la IA generativa, su empresa necesitará gestionar y preparar bien sus datos. Al mismo tiempo, necesitará sentar las bases para construir y operar servicios de IA a escala, y necesitará financiar su iniciativa de IA generativa en una manera inteligente y sostenible. Comenzar despacio y disminuir gradualmente no es forma de ganar la carrera de la IA. Si no mejoramos la forma en que gestionamos los datos o abordamos el escalamiento y los costos de la manera correcta, entonces se perderá el potencial inherente a la IA generativa. A continuación se presentan algunas ideas sobre cómo podemos mejorar nuestros enfoques de gestión de datos y cómo podemos respaldar nuestras iniciativas de IA generativa a largo plazo. De dónde provienen los datos Los datos vienen en varias formas. Cada forma de datos puede mejorar la riqueza y la calidad de los conocimientos generativos de la IA si se utiliza correctamente. La primera forma de datos son los datos estructurados, que se reúnen de forma reglamentada y coherente. Los datos estructurados incluirían elementos como información del producto, datos demográficos de los clientes o niveles de existencias. Este tipo de datos proporciona una base de hechos organizados que se pueden agregar a proyectos de IA generativa para mejorar la calidad de las respuestas. Además de esto, es posible que tenga fuentes de datos externas que puedan complementar sus fuentes de datos estructuradas internas. Los ejemplos comunes aquí incluirían informes meteorológicos, precios de acciones o niveles de tráfico, datos que pueden aportar más contexto en tiempo real y del mundo real a un proceso de toma de decisiones. Estos datos se pueden combinar en sus proyectos para proporcionar datos de calidad adicionales, pero puede que no tenga sentido generarlos usted mismo. Otro conjunto de datos común son los datos derivados, que cubren los datos creados a través de escenarios de análisis y modelado. Estos conocimientos más profundos pueden incluir informes de intención del cliente, predicciones de ventas estacionales o análisis de cohortes. La última forma común de datos son los datos no estructurados. En lugar de los informes habituales o formatos de datos a los que están acostumbrados los analistas, esta categoría incluye formatos como imágenes, documentos y archivos de audio. Estos datos capturan los matices de la comunicación y expresión humana. Los programas de IA generativa a menudo funcionan con imágenes o audio, que son entradas y salidas comunes de los modelos de IA generativa. Hacer que la IA generativa funcione a escala Todos estos diversos conjuntos de datos existirán en sus propios entornos. Al mismo tiempo, hacerlos útiles para proyectos de IA generativa implica hacer que este panorama diverso de datos sea accesible en tiempo real. Con tantos datos potenciales involucrados, cualquier enfoque debe escalar dinámicamente según demanda y replicar datos globalmente para que todos los recursos estén cerca de los usuarios cuando lleguen las solicitudes. Esto es necesario para evitar el tiempo de inactividad y reducir la latencia dentro de las solicitudes de transacciones. Estos datos también deben Esté preparado para que el sistema de IA generativa pueda utilizarlo de forma eficaz. Esto implica crear incrustaciones, que son valores matemáticos, es decir, vectores, que representan significado semántico. Las incrustaciones permiten que el sistema de IA generativa busque más allá de coincidencias de texto específicas y, en cambio, abarque el significado y el contexto incrustados en los datos. Cualquiera que sea la forma original de los datos, la creación de incorporaciones significa que los datos pueden ser comprendidos y utilizados por el sistema de IA generativa y conservar su significado y contexto. Con estas incorporaciones, las empresas pueden admitir la búsqueda vectorial o la búsqueda híbrida en todos sus datos, combinando valor y significado al mismo tiempo. Luego, estos resultados se pueden recopilar y devolver al modelo de lenguaje grande (LLM) utilizado para ensamblar el resultado. Al hacer que haya más datos disponibles de múltiples fuentes, en lugar de depender únicamente del LLM, su proyecto de IA generativa puede ofrecer mejores resultados al usuario y reducir las alucinaciones. Para que esto funcione en la práctica, es necesario elegir la estructura de datos subyacente adecuada. Como parte de esto, querrá evitar en la medida de lo posible un mosaico fragmentado de datos almacenados en diferentes soluciones, ya que cada una de ellas representa otro silo que debe ser respaldado, interrogado y administrado a lo largo del tiempo. Los usuarios deberían poder hacer una pregunta al LLM y recibir una respuesta rápidamente, en lugar de esperar a que respondan varios componentes y que el modelo evalúe sus respuestas. Un tejido de datos unificado debería ofrecer una integración de datos perfecta, permitiendo que la IA generativa aproveche todo el espectro de datos disponibles. Los beneficios de un enfoque modular Para ampliar su implementación de IA generativa, tendrá que equilibrar la rapidez con la que puede aumentar la adopción con el mantenimiento del control. sobre sus activos críticos. Adoptar un enfoque modular para crear agentes de IA generativos lo hace más fácil, ya que puede dividir su implementación y evitar posibles cuellos de botella. De manera similar a los diseños de microservicios para aplicaciones, un enfoque modular para los servicios de IA también fomenta las mejores prácticas en torno al diseño de aplicaciones y software para eliminar puntos. de fracaso, además de abrir el acceso a la tecnología a más usuarios potenciales. También facilita el monitoreo del desempeño de los agentes en toda la empresa y detecta con mayor precisión dónde ocurren los problemas. El primer beneficio de la modularidad es la explicabilidad. Como los componentes involucrados en el sistema de IA generativa están separados entre sí, esto facilita el análisis de cómo funcionan los agentes y toman decisiones. La IA suele describirse como una “caja negra”. La compartimentación facilita mucho el seguimiento y la explicación de los resultados. El segundo beneficio aquí es la seguridad, ya que los componentes pueden protegerse mediante los mejores mecanismos de autenticación y autorización de su clase, lo que garantiza que solo los usuarios autorizados tengan acceso a datos y funciones confidenciales. La modularidad también facilita el cumplimiento y la gobernanza, ya que la información de identificación personal (PII) o la propiedad intelectual (IP) se pueden salvaguardar y mantener separadas del LLM subyacente. Financiar su iniciativa de IA generativa. Además del enfoque de microservicios, debe adoptar una mentalidad de plataforma para su estrategia general. Programa de IA generativa. Esto implica reemplazar el modelo tradicional de financiación basado en proyectos para proyectos de software y, en su lugar, proporcionar un modelo de financiación consistente y flexible. Este enfoque permite a los participantes tomar decisiones basadas en valores, responder a oportunidades emergentes y desarrollar mejores prácticas sin verse limitados por ciclos de financiación rígidos o casos de negocios. Tratar su presupuesto de esta manera también alienta a los desarrolladores y equipos comerciales a considerar la IA generativa como parte de la infraestructura general que la organización tiene implementada. Esto hace que sea más fácil evitar algunos de los picos y valles que de otro modo podrían afectar la planificación de la carga de trabajo, y facilita adoptar un enfoque de “centro de excelencia” que se mantenga consistente en el tiempo. Un enfoque similar es tratar la IA generativa como un producto que el negocio opera por derecho propio, en lugar de como software. Los agentes de IA deben administrarse como productos porque esto representa el valor que crean de manera más efectiva, además de facilitar la obtención de recursos de soporte en torno a la integración, las herramientas y las indicaciones. Simplificar este modelo fomenta una comprensión más amplia de la IA generativa y la adopción de mejores prácticas en toda la organización, fomentando una cultura de experiencia compartida y colaboración en el desarrollo de la IA generativa. La IA generativa tiene un enorme potencial y las empresas se apresuran a implementar nuevas herramientas y agentes. y avisos en sus operaciones. Sin embargo, poner en producción estos proyectos potenciales implica administrar sus datos de manera efectiva, sentar las bases para ampliar los sistemas y establecer el modelo de presupuesto adecuado para respaldar a su equipo. Hacer que sus procesos y prioridades sean correctos lo ayudará a usted y a su equipo a desbloquear el potencial transformador de esta tecnología. Dom Couldwell es jefe de ingeniería de campo, EMEA, en DataStax.—Generative AI Insights proporciona un lugar para los líderes tecnológicos, incluidos proveedores y otros contribuyentes externos. —Explorar y discutir los desafíos y oportunidades de la inteligencia artificial generativa. La selección es amplia, desde análisis profundos de tecnología hasta estudios de casos y opiniones de expertos, pero también subjetiva, basada en nuestro juicio sobre qué temas y tratamientos servirán mejor a la audiencia técnicamente sofisticada de InfoWorld. InfoWorld no acepta garantías de marketing para su publicación y se reserva el derecho de editar todo el contenido aportado. Póngase en contacto con doug_dineley@foundryco.com. Copyright © 2024 IDG Communications, Inc.

Source link