A pesar del entusiasmo de los proveedores, los analistas han sido claros en que no creen que 2024 vaya a ser el año en que las PC con hardware dedicado para cargas de trabajo de IA se conviertan en algo común. Pero a medida que el software se pone al día con el nuevo hardware, puede que sea el momento de que la industria se tome en serio estos dispositivos y analice más a fondo cómo pueden agregar valor a través de computadoras mejoradas con IA. Al menos, este fue el objetivo principal del evento Imagine AI de HP, donde lanzó su dispositivo insignia Copilot+: el OmniBook Ultra 14. En realidad, la atención se centró realmente en los proveedores de software independientes que realmente impulsarán la migración hacia la próxima generación de PC. HP presentó una serie de proveedores de software independientes (ISV) que están desarrollando soluciones que aprovecharán la nueva potencia de procesamiento de las PC con IA para ejecutar cargas de trabajo localmente. El enfoque se centró firmemente en demostrar cómo el ecosistema de software de IA está en camino de volverse lo suficientemente maduro como para merecer que las empresas consideren dispositivos preparados para IA en sus próximas actualizaciones de hardware para aprovechar estas nuevas capacidades. En un panel de ISV que discutió cómo los CIO pueden cumplir la promesa de la IA, Fred Balsinger, gerente de programa de grupo de Windows Silicon en Microsoft, dijo que los modelos eran anteriormente demasiado grandes y engorrosos para considerar ejecutarlos en el borde, pero la tasa de innovación en la industria ha cambiado esta realidad. «Pero recientemente, [with] «La velocidad a la que ha evolucionado la industria de la IA nos ha permitido aprender a reducir el tamaño de esos modelos. Contábamos con técnicas para formatear los modelos de aprendizaje automático, cuantificarlos, ponderarlos, cómo podemos reducirlos lo suficiente», explicó. Reciba nuestras últimas noticias, actualizaciones de la industria, recursos destacados y más. Regístrese hoy para recibir nuestro informe GRATUITO sobre ciberdelito y seguridad de IA, actualizado recientemente para 2024. «Ahora estamos en un punto en la industria en el que podemos tener modelos verdaderamente significativos y podemos ejecutarlos en el borde». Balsinger desglosó por qué las organizaciones querrían poder ejecutar cargas de trabajo de IA localmente y dónde ve que las PC equipadas con aceleradores de IA realmente pueden agregar valor para la empresa. Un área en la que las empresas podrán obtener un nuevo valor de las PC mejoradas con IA, según Balsinger, es la seguridad. Señaló que al ejecutar modelos en la unidad de procesamiento neuronal (NPU) del dispositivo, los usuarios empresariales ya no tendrán que preocuparse de que sus datos salgan de su máquina, una preocupación común en torno al uso de modelos de IA en industrias con preocupaciones particulares en torno a la protección de datos, como la atención médica o las finanzas. Hablando con ITPro, Rachel Cossar, directora ejecutiva del servicio de capacitación en comunicación de IA Virtual Sapiens, dijo que esta siempre fue una preocupación central para su organización, que brinda retroalimentación en tiempo real sobre cómo se presenta un usuario en las reuniones. «Hay múltiples niveles de confianza que»Estamos tratando de establecer. Uno de los mayores para nosotros es que su imagen nunca saldrá de su dispositivo. Descubrimos que la gente es comprensiblemente muy sensible al respecto, no les gusta la idea de tener su imagen y su vídeo vagando por el éter». Por lo tanto, ejecutar modelos localmente presenta a Virtual Sapiens una propuesta convincente para los usuarios reacios al riesgo donde puede garantizar que su vídeo privado nunca salga del dispositivo. Cossar señaló que el procesamiento local siempre estuvo en la visión de la empresa debido a estas consideraciones de seguridad, pero las limitaciones de hardware habían restringido la capacidad de la empresa para implementar Virtual Sapiens tan ampliamente hasta este punto. «De hecho, siempre hemos imaginado usar procesamiento local en el dispositivo. Tomamos esa decisión desde una perspectiva de seguridad y económica, pero ha sido una lucha», explicó. «Ha sido una lucha satisfacer a los consumidores donde están con sus dispositivos porque hemos estado consumiendo niveles tan altos de GPU/CPU. «Esto nos da una opción mucho más eficiente para ejecutar de manera fluida y sin problemas para nuestros usuarios mientras hacen otras cosas». Las NPU liberarán otros procesadores Balsinger destacó esta nueva disponibilidad a bordo que pueden proporcionar los aceleradores de IA, y lo importante que será para los ISV para impulsar aún más la innovación en IA, al tiempo que evitan los exorbitantes costos de alojamiento en la nube. «La introducción de un nuevo procesador les permite tomar algunas de sus cargas de trabajo que normalmente compiten por los recursos en una GPU, por ejemplo, moverlas a la NPU, de repente, el resto del sistema está más disponible para el software. «Ahora se puede utilizar una máquina de forma más eficiente y confiar en la NPU para inferir de forma más eficaz», dijo a ITPro Manuel Terrazza, director ejecutivo y fundador de Loccus.ai, una herramienta de detección de deepfake de audio que utiliza IA para proporcionar una puntuación de autenticidad que indique la probabilidad de que el audio sea una suplantación de identidad. La inclusión de NPU en los nuevos dispositivos fue la «combinación perfecta» para la empresa. «Lo que estamos haciendo con HP es aprovechar todo el poder de la NPU para añadir una capa de protección en los canales de comunicación de voz. Es la combinación perfecta de conocimiento muy potente pero que se ejecuta localmente muy cerca del borde. «Desde la privacidad, la experiencia en tiempo real y un proceso de inferencia eficiente, es la combinación perfecta». Terraza agregó que desde la transición de un modelo alojado en la nube, se sorprendió gratamente al ver que la eficacia de la herramienta de detección no se vio afectada al usar modelos más pequeños que se ejecutaban localmente. «Todo el proceso de adaptación de nuestros modelos para que se ejecutaran en la NPU nos mostró sorprendentemente que no hay compromiso en la precisión», explicó. «En realidad, mantuvimos la misma dirección y, como estamos ejecutando un modelo en la NPU, incluso podemos obtener procesos de inferencia más rápidos y una experiencia más en tiempo real. En este momento, obtenemos una puntuación cada segundo, por lo que solo necesitamos un segundo de volumen para proporcionar una puntuación sin comprometer la precisión». Haciendo honor al nombre de la computadora personal, HP ya ha presentado una serie de funciones de software de IA que se incluirán de forma gratuita con sus dispositivos y aprovecharán las nuevas NPU. Estas incluyen subtítulos en vivo para traducir el habla en tiempo real, la solución de videoconferencia inteligente Poly DirectorAI o su chatbot AI Companion. Estas características por sí solas no impulsarán a todas las empresas a renovar su hardware, admitió HP, pero la flexibilidad que pueden ofrecer hará que estos sistemas sean verdaderamente personales para cada usuario. En declaraciones a ITPro, Guayente Sanmartin, vicepresidente sénior y presidente de la división de sistemas comerciales y soluciones de visualización de HP, dijo que no cree que haya una «aplicación revolucionaria» que obligue a las empresas a hacer el cambio, pero el poder de estos dispositivos será su capacidad para personalizar la experiencia para cualquier caso de uso para el que la empresa los necesite. «No creo que vaya a haber una aplicación revolucionaria o única que funcione para todas las empresas y todos los trabajadores. Para cada persona habrá diferentes casos de uso». «Ahora, estas PC con IA podrán personalizar la experiencia para usted y para mí de manera diferente, por lo que la forma en que trabajo es diferente a la suya, las herramientas con las que trabajo son diferentes a las suyas. [with]como trabajo, [whether] “Haga multitarea o no, el PC se adaptará a tu forma de trabajar”, ​​afirmó. “Esa es, creo, la gran diferencia, no es su caso de uso específico, es la personalización de tu estilo de trabajo”.