Robert Triggs / Android Authority Si ha estado sopesando la compra de una nueva computadora portátil, sin duda se habrá dado cuenta de que cuentan cada vez más con capacidades NPU que se parecen muchísimo al hardware que hemos visto en los mejores teléfonos inteligentes durante mucho tiempo. número de años ahora. El factor determinante es el impulso para que las computadoras portátiles se pongan al día con las capacidades de IA móvil, dotándolas de funciones avanzadas de IA, como Copilot de Microsoft, que pueden ejecutarse de forma segura en el dispositivo sin necesidad de una conexión a Internet. Aquí encontrará todo lo que necesita saber sobre las NPU, por qué su próxima computadora portátil podría tener una y si debería comprar una o no. ¿Está interesado en las capacidades de IA de las computadoras portátiles? 804 votos Sí, estoy interesado. 32 % Depende de otras especificaciones 24 % No, en absoluto. 44 % ¿Qué es una NPU? NPU es un acrónimo de Unidad de Procesamiento Neural. Las NPU se dedican a ejecutar funciones matemáticas asociadas con tareas de redes neuronales/aprendizaje automático/IA. Si bien estos pueden ser chips independientes, cada vez más se integran directamente en un sistema en chip (SoC) junto con componentes de CPU y GPU más familiares. Las NPU se dedican a acelerar el aprendizaje automático, también conocido como tareas de IA. Las NPU vienen en varias formas y tamaños y, a menudo, se les llama de manera ligeramente diferente según el diseñador del chip. Ya encontrarás diferentes modelos repartidos por el panorama de los teléfonos inteligentes. Qualcomm tiene Hexagon dentro de sus procesadores Snapdragon, Google tiene sus TPU para la nube y sus chips Tensor móviles, y Samsung tiene su propia implementación para Exynos. La idea ahora también está despegando en el espacio de las computadoras portátiles y PC. Por ejemplo, está el Neural Engine dentro del último Apple M4, las funciones Hexagon de Qualcomm en la plataforma Snapdragon X Elite y AMD e Intel han comenzado a integrar NPU en sus últimos conjuntos de chips. Si bien no son exactamente iguales, las GPU de NVIDIA desdibujan las líneas, dadas sus impresionantes capacidades de cálculo numérico. Las NPU están cada vez más en todas partes. ¿Por qué los dispositivos necesitan una NPU? Robert Triggs / Android Authority Como mencionamos, las NPU están diseñadas específicamente para manejar cargas de trabajo de aprendizaje automático (junto con otras tareas que requieren mucha matemática). En términos simples, una NPU es un componente muy útil, quizás incluso esencial, para ejecutar IA en el dispositivo en lugar de en la nube. Como sin duda habrás notado, la IA parece estar en todas partes hoy en día, e incorporar soporte directamente a los productos es un paso clave en ese viaje. Gran parte del procesamiento de la IA actual se realiza en la nube, pero esto no es ideal para muchos. razones. Primero está la latencia y los requisitos de red; no puede acceder a las herramientas sin conexión o es posible que tenga que esperar largos tiempos de procesamiento durante las horas pico. El envío de datos a través de Internet también es menos seguro, lo cual es un factor muy importante cuando se utiliza IA que tiene acceso a su información personal, como Recall de Microsoft. En pocas palabras, es preferible ejecutarlo en el dispositivo. Sin embargo, las tareas de IA requieren mucha computación y no funcionan bien en el hardware tradicional. Es posible que hayas notado esto si has intentado generar imágenes mediante Difusión Estable en tu computadora portátil. Puede ser tremendamente lento para tareas más avanzadas, aunque las CPU pueden ejecutar sin problemas una serie de tareas de IA «más simples». Las NPU permiten que las tareas de IA se ejecuten en el dispositivo, sin necesidad de una conexión a Internet. La solución es adoptar hardware dedicado para acelerar estas tareas avanzadas. Puede leer más sobre lo que hacen las NPU más adelante en este artículo, pero el TLDR es que ejecutan tareas de IA de manera más rápida y eficiente que su CPU por sí sola. Su rendimiento a menudo se expresa en billones de operaciones por segundo (TOPS), pero esta no es una métrica muy útil porque no indica exactamente qué está haciendo cada operación. En cambio, suele ser mejor buscar cifras que indiquen la rapidez con la que se procesan tokens para modelos grandes. Hablando de TOPS, las NPU para teléfonos inteligentes y portátiles se clasifican en decenas de TOPS. En términos generales, esto significa que pueden acelerar tareas básicas de IA, como la detección de objetos de la cámara para aplicar desenfoque bokeh o resumir texto. Si desea ejecutar un modelo de lenguaje grande o utilizar IA generativa para producir medios rápidamente, querrá un acelerador/GPU más potente en el rango de cientos o miles de TOPS. ¿Es diferente una NPU de una CPU? Una unidad de procesamiento neuronal es bastante diferente de una unidad central de procesamiento debido al tipo de carga de trabajo para la que está diseñada. Una CPU típica de su computadora portátil o teléfono inteligente tiene un propósito bastante general para atender una amplia gama de aplicaciones, admite amplios conjuntos de instrucciones (funciones que puede realizar), varias formas de almacenar en caché y recuperar funciones (para acelerar los bucles repetidos) y grandes ventanas de ejecución fuera de orden (para que puedan seguir haciendo cosas en lugar de esperar). Sin embargo, las cargas de trabajo de aprendizaje automático son diferentes y no necesitan tanta flexibilidad. Para empezar, requieren mucha más matemática y a menudo requieren instrucciones computacionalmente costosas y repetitivas, como la multiplicación de matrices y un acceso muy rápido a grandes cantidades de memoria. También suelen operar con formatos de datos inusuales, como enteros de dieciséis, ocho o incluso cuatro bits. En comparación, su CPU típica se basa en números enteros de 64 bits y matemáticas de punto flotante (a menudo con instrucciones adicionales agregadas). Una NPU es más rápida y eficiente energéticamente para ejecutar tareas de IA en comparación con una CPU. La construcción de una NPU dedicada a la computación paralela masiva de estas funciones específicas da como resultado un rendimiento más rápido y menos desperdicio de energía en funciones inactivas que no son útiles para la tarea en cuestión. Sin embargo, no todas las NPU son iguales. Incluso fuera de sus capacidades de procesamiento de números, se pueden construir para admitir diferentes tipos de números enteros y operaciones, lo que significa que algunas NPU funcionan mejor en ciertos modelos. Algunas NPU de teléfonos inteligentes, por ejemplo, funcionan en formatos INT8 o incluso INT4 para ahorrar en el consumo de energía, pero obtendrá una mayor precisión con un modelo FP16 más avanzado pero que consume mucha energía. Si necesita computación realmente avanzada, las GPU dedicadas y los aceleradores externos son aún más potentes y con diversos formatos que las NPU integradas. Como respaldo, las CPU pueden ejecutar tareas de aprendizaje automático, pero a menudo son mucho más lentas. Las CPU modernas de Arm, Apple, Intel y AMD admiten las instrucciones matemáticas necesarias y algunos de los niveles de cuantificación más pequeños. Su cuello de botella suele ser cuántas de estas funciones pueden ejecutar en paralelo y qué tan rápido pueden mover datos dentro y fuera de la memoria, que es para lo que están diseñadas específicamente las NPU. ¿Debería comprar una computadora portátil con una NPU? Robert Triggs / Android Authority Si bien están lejos de ser esenciales, especialmente si no le importa la tendencia de la IA, las NPU son necesarias para algunas de las últimas funciones que encontrará en el espacio de los dispositivos móviles y las PC. Copilot Plus de Microsoft, por ejemplo, especifica una NPU con 40 TOPS de rendimiento como requisito mínimo, que necesitará para usar Windows Recall. Desafortunadamente, los chips Meteor Lake de Intel y Ryzen 8000 de AMD que se encuentran en las computadoras portátiles actuales (al momento de escribir este artículo) no cumplen con ese requisito. Sin embargo, los chips Stix Point Ryzen recientemente anunciados por AMD son compatibles. No tendrá que esperar mucho para obtener una alternativa x64 a las computadoras portátiles Snapdragon X Elite basadas en Arm, ya que se esperan computadoras portátiles con tecnología Stix Point en el primer semestre de 2024. Herramientas populares de clase PC como Audacity, DaVinci Resolve, Zoom y muchas otras están disponibles. experimentando cada vez más con capacidades de IA en el dispositivo más exigentes. Si bien no son esenciales para las cargas de trabajo principales, estas funciones se están volviendo cada vez más populares y las capacidades de IA deberían tenerse en cuenta en su próxima compra si utiliza estas herramientas con regularidad. CoPilot Plus sólo será compatible con portátiles con una NPU suficientemente potente. Cuando se trata de teléfonos inteligentes, las características y capacidades varían un poco más según la marca. Por ejemplo, Galaxy AI de Samsung solo se ejecuta en sus potentes teléfonos insignia Galaxy S. No ha incorporado funciones como asistencia de chat o intérprete al asequible Galaxy A55, probablemente porque carece de la potencia de procesamiento necesaria. Dicho esto, algunas de las funciones de Samsung también se ejecutan en la nube, pero es probable que no se financien con compras más asequibles. Hablando de eso, Google es igualmente regular en términos de coherencia de funciones. Encontrarás lo mejor de los extras de IA de Google en el Pixel 8 Pro, como Video Boost; aún así, el Pixel 8 e incluso el asequible 8a ejecutan muchas de las mismas herramientas de IA. En última instancia, la IA está aquí y las NPU son las clave para disfrutar de funciones en el dispositivo que no se pueden ejecutar en hardware más antiguo. Dicho esto, todavía estamos en los primeros días de las cargas de trabajo de IA, especialmente en el espacio de las computadoras portátiles. Los requisitos de software y las capacidades de hardware no harán más que crecer en los próximos años. En ese sentido, esperar hasta que el polvo se asiente antes de saltar no hará daño. Comentarios