¿Quieres ideas más inteligentes en tu bandeja de entrada? Regístrese en nuestros boletines semanales para obtener solo lo que importa a los líderes de IA, datos y seguridad empresariales. Suscríbete ahora Liquid AI, la startup formada por ex investigadores del Instituto de Tecnología de Massachusetts (MIT) para desarrollar nuevas arquitecturas de modelos de IA nuevas más allá del «transformadores» ampliamente utilizado, anunció hoy el lanzamiento de LEAP AKA, la «plataforma Liquid Edge AI, un kit de desarrollo de software de plataforma cruzada (SDK) diseñada para facilitar los desarrolladores para integrar modelos de idiomas pequeños (SLMS) directamente en aplicaciones móviles en móviles. Junto con Leap, la compañía también presentó a Apollo, una aplicación complementaria de iOS para probar estos modelos localmente, promoviendo la misión de Liquid AI para permitir la IA eficiente y preservadora de la privacidad en el hardware del consumidor. El SDK Leap llega en un momento en que muchos desarrolladores buscan alternativas a los servicios de IA solo en la nube debido a las preocupaciones sobre la latencia, el costo, la privacidad y la disponibilidad fuera de línea. LEAP aborda esas necesidades de frente con un enfoque local que permite que los modelos pequeños funcionen directamente en el dispositivo, reduciendo la dependencia de la infraestructura de la nube. Construido para desarrolladores móviles sin experiencia previa en ML requerida, el salto está diseñado para los desarrolladores que desean construir con IA pero que pueden no tener una experiencia profunda en el aprendizaje automático. Según Liquid AI, el SDK se puede agregar a un proyecto de iOS o Android con solo unas pocas líneas de código, y llamar a un modelo local está destinado a sentirse tan familiarizado como interactuar con una API de nube tradicional. «Nuestra investigación muestra que los desarrolladores están moviendo más allá de la IA solo en la nube y buscan socios de confianza para ayudarlos a construir en el dispositivo», dijo Ramin Hasani, cofundador y CEO de Liquid AI, en una publicación de blog que anuncia las noticias hoy en el sitio web de Liquid. «Leap es nuestra respuesta: una plataforma de implementación de extremo a extremo flexible construida desde cero para hacer que la IA de borde privado y potente sea realmente accesible». Una vez integrados, los desarrolladores pueden seleccionar un modelo de la biblioteca de modelos LEAP incorporada, que incluye modelos compactos tan pequeños como 300 MB, lo suficientemente liviano para teléfonos modernos con tan solo 4 GB de RAM (!!) y arriba. El SDK maneja la inferencia local, la optimización de la memoria y la compatibilidad del dispositivo, simplificando el proceso de implementación de borde típico. LEAP es agnóstico de OS y modelo por diseño. En el lanzamiento, es compatible con iOS y Android, y ofrece compatibilidad con los modelos Liquid Liquid Foundation (LFMS) de Liquid AI, así como muchos modelos pequeños populares de código abierto. El objetivo: un ecosistema unificado para Edge AI más allá de la ejecución del modelo, LEAP se posiciona como una plataforma todo en uno para descubrir, adaptar, probar e implementar SLM para el uso de borde. Los desarrolladores pueden navegar por un catálogo de modelos curados con varias opciones de cuantización y punto de control, lo que les permite adaptar el rendimiento y la huella de la memoria a las limitaciones del dispositivo de destino. La IA líquida enfatiza que los modelos grandes tienden a ser generalistas, mientras que los modelos pequeños a menudo funcionan mejor cuando se optimizan para un conjunto estrecho de tareas. El sistema unificado de Leap se estructura en torno a ese principio, ofreciendo herramientas para la rápida iteración e implementación en entornos móviles del mundo real. El SDK también viene con una comunidad de desarrolladores organizada en Discord, donde Liquid Ai ofrece horas de oficina, apoyo, eventos y competiciones para fomentar la experimentación y la retroalimentación. Apollo: Al igual que TestFlight para modelos de IA locales para complementar el salto, Liquid Ai también lanzó Apollo, una aplicación gratuita de iOS que permite a los desarrolladores y usuarios interactuar con modelos compatibles con LEAP en una configuración local fuera de línea. Originalmente, una inicio de aplicaciones móviles separadas que permitió a los usuarios chatear con LLMS en privado en el dispositivo, que Liquid adquirió a principios de este año, Apollo ha sido reconstruido para admitir toda la biblioteca de modelos Leap. Apollo está diseñado para la experimentación de baja fricción: los desarrolladores pueden «verificar» verificar el comportamiento de tono, latencia o salida de un modelo directamente en sus teléfonos antes de integrarlo en una aplicación de producción. La aplicación se ejecuta completamente fuera de línea, preservando la privacidad del usuario y reduciendo la dependencia en el cálculo de la nube. Ya sea que se use como una herramienta de desarrollo ligera o un asistente privado de IA, Apollo refleja el impulso más amplio de Liquid AI para descentralizar el acceso y la ejecución de la IA. Construido en la parte posterior de la Familia Modelo LFM2 anunciada la semana pasada, el lanzamiento de Leap SDK se basa en el anuncio de Liquid AI del 10 de julio de LFM2, su familia de fundas de segunda generación diseñada específicamente para cargas de trabajo en el dispositivo. Los modelos LFM2 vienen en tamaños de parámetros de 350 m, 700m y 1.2b, y comparan de manera competitiva con modelos más grandes en velocidad y precisión en varias tareas de evaluación. Estos modelos forman la columna vertebral de la biblioteca de modelos LEAP y están optimizados para una inferencia rápida en CPU, GPU y NPUS. Free y listo para que los desarrolladores comiencen a Builting Leap actualmente es gratuito bajo una licencia de desarrollador que incluye el Core SDK y la Biblioteca de Modelos. Liquid AI señala que las funciones de Premium Enterprise estarán disponibles bajo una licencia comercial separada en el futuro, pero que está recibiendo consultas de clientes empresariales que ya a través del formulario de contacto de su sitio web. Los modelos LFM2 también son gratuitos para uso académico y uso comercial por parte de empresas con menos de $ 10 millones en ingresos, con organizaciones más grandes requeridas para contactar a la compañía para obtener licencias. Los desarrolladores pueden comenzar visitando el sitio web de Leap SDK, descargando Apollo de la App Store o uniéndose a la comunidad de desarrolladores de IA Liquid en Discord. Insights diarias sobre casos de uso de negocios con VB diariamente Si desea impresionar a su jefe, VB Daily lo tiene cubierto. Le damos la cuenta interior de lo que las empresas están haciendo con la IA generativa, desde cambios regulatorios hasta implementaciones prácticas, por lo que puede compartir ideas para el ROI máximo. Lea nuestra Política de privacidad Gracias por suscribirse. Mira más boletines de VB aquí. Ocurrió un error.