Robert Triggs / Android Authority Si ha estado sopesando la compra de una nueva computadora portátil, sin duda se habrá dado cuenta de que cuentan cada vez más con capacidades NPU que se parecen muchísimo al hardware que hemos visto en los mejores teléfonos inteligentes durante mucho tiempo. número de años ahora. El factor determinante es el impulso para que las computadoras portátiles se pongan al día con las capacidades de IA móvil, dotándolas de funciones avanzadas de IA, como Copilot de Microsoft, que pueden ejecutarse de forma segura en el dispositivo sin necesidad de una conexión a Internet. Aquí encontrará todo lo que necesita saber sobre las NPU, por qué su próxima computadora portátil podría tener una y si debería comprar una o no. ¿Está interesado en las capacidades de IA de las computadoras portátiles? 804 votos Sí, estoy interesado. 32 % Depende de otras especificaciones 24 % No, en absoluto. 44 % ¿Qué es una NPU? NPU es un acrónimo de Unidad de Procesamiento Neural. Las NPU se dedican a ejecutar funciones matemáticas asociadas con tareas de redes neuronales/aprendizaje automático/IA. Si bien estos pueden ser chips independientes, cada vez más se integran directamente en un sistema en chip (SoC) junto con componentes de CPU y GPU más familiares. Las NPU se dedican a acelerar el aprendizaje automático, también conocido como tareas de IA. Las NPU vienen en varias formas y tamaños y, a menudo, se les llama de manera ligeramente diferente según el diseñador del chip. Ya encontrarás diferentes modelos repartidos por el panorama de los teléfonos inteligentes. Qualcomm tiene Hexagon dentro de sus procesadores Snapdragon, Google tiene sus TPU para la nube y sus chips Tensor móviles, y Samsung tiene su propia implementación para Exynos. La idea ahora también está despegando en el espacio de las computadoras portátiles y PC. Por ejemplo, está el Neural Engine dentro del último Apple M4, las funciones Hexagon de Qualcomm en la plataforma Snapdragon X Elite y AMD e Intel han comenzado a integrar NPU en sus últimos conjuntos de chips. Si bien no son exactamente iguales, las GPU de NVIDIA desdibujan las líneas, dadas sus impresionantes capacidades de cálculo numérico. Las NPU están cada vez más en todas partes. ¿Por qué los dispositivos necesitan una NPU? Robert Triggs / Android Authority Como mencionamos, las NPU están diseñadas específicamente para manejar cargas de trabajo de aprendizaje automático (junto con otras tareas que requieren mucha matemática). En términos simples, una NPU es un componente muy útil, quizás incluso esencial, para ejecutar IA en el dispositivo en lugar de en la nube. Como sin duda habrás notado, la IA parece estar en todas partes hoy en día, e incorporar soporte directamente a los productos es un paso clave en ese viaje. Gran parte del procesamiento de la IA actual se realiza en la nube, pero esto no es ideal para muchos. razones. Primero está la latencia y los requisitos de red; no puede acceder a las herramientas sin conexión o es posible que tenga que esperar largos tiempos de procesamiento durante las horas pico. El envío de datos a través de Internet también es menos seguro, lo cual es un factor muy importante cuando se utiliza IA que tiene acceso a su información personal, como Recall de Microsoft. En pocas palabras, es preferible ejecutarlo en el dispositivo. Sin embargo, las tareas de IA requieren mucha computación y no funcionan bien en el hardware tradicional. Es posible que hayas notado esto si has intentado generar imágenes mediante Difusión Estable en tu computadora portátil. Puede ser tremendamente lento para tareas más avanzadas, aunque las CPU pueden ejecutar sin problemas una serie de tareas de IA «más simples». Las NPU permiten que las tareas de IA se ejecuten en el dispositivo, sin necesidad de una conexión a Internet. La solución es adoptar hardware dedicado para acelerar estas tareas avanzadas. Puede leer más sobre lo que hacen las NPU más adelante en este artículo, pero el TLDR es que ejecutan tareas de IA de manera más rápida y eficiente que su CPU por sí sola. Su rendimiento a menudo se expresa en billones de operaciones por segundo (TOPS), pero esta no es una métrica muy útil porque no indica exactamente qué está haciendo cada operación. En cambio, suele ser mejor buscar cifras que indiquen la rapidez con la que se procesan tokens para modelos grandes. Hablando de TOPS, las NPU para teléfonos inteligentes y portátiles se clasifican en decenas de TOPS. En términos generales, esto significa que pueden acelerar tareas básicas de IA, como la detección de objetos de la cámara para aplicar desenfoque bokeh o resumir texto. Si desea ejecutar un modelo de lenguaje grande o utilizar IA generativa para producir medios rápidamente, querrá un acelerador/GPU más potente en el rango de cientos o miles de TOPS. ¿Es diferente una NPU de una CPU? Una unidad de procesamiento neuronal es bastante diferente de una unidad central de procesamiento debido al tipo de carga de trabajo para la que está diseñada. Una CPU típica de su computadora portátil o teléfono inteligente tiene un propósito bastante general para atender una amplia gama de aplicaciones, admite amplios conjuntos de instrucciones (funciones que puede realizar), varias formas de almacenar en caché y recuperar funciones (para acelerar los bucles repetidos) y grandes ventanas de ejecución fuera de orden (para que puedan seguir haciendo cosas en lugar de esperar). Sin embargo, las cargas de trabajo de aprendizaje automático son diferentes y no necesitan tanta flexibilidad. Para empezar, requieren mucha más matemática y a menudo requieren instrucciones computacionalmente costosas y repetitivas, como la multiplicación de matrices y un acceso muy rápido a grandes cantidades de memoria. También suelen operar con formatos de datos inusuales, como enteros de dieciséis, ocho o incluso cuatro bits. En comparación, su CPU típica se basa en números enteros de 64 bits y matemáticas de punto flotante (a menudo con instrucciones adicionales agregadas). Una NPU es más rápida y eficiente energéticamente para ejecutar tareas de IA en comparación con una CPU. La construcción de una NPU dedicada a la computación paralela masiva de estas funciones específicas da como resultado un rendimiento más rápido y menos desperdicio de energía en funciones inactivas que no son útiles para la tarea en cuestión. Sin embargo, no todas las NPU son iguales. Incluso fuera de sus capacidades de procesamiento de números, se pueden construir para admitir diferentes tipos de números enteros y operaciones, lo que significa que algunas NPU funcionan mejor en ciertos modelos. Algunas NPU de teléfonos inteligentes, por ejemplo, funcionan en formatos INT8 o incluso INT4 para ahorrar en el consumo de energía, pero obtendrá una mayor precisión con un modelo FP16 más avanzado pero que consume mucha energía. Si necesita computación realmente avanzada, las GPU dedicadas y los aceleradores externos son aún más potentes y con diversos formatos que las NPU integradas. Como respaldo, las CPU pueden ejecutar tareas de aprendizaje automático, pero a menudo son mucho más lentas. Las CPU modernas de Arm, Apple, Intel y AMD admiten las instrucciones matemáticas necesarias y algunos de los niveles de cuantificación más pequeños. Su cuello de botella suele ser cuántas de estas funciones pueden ejecutar en paralelo y qué tan rápido pueden mover datos dentro y fuera de la memoria, que es para lo que están diseñadas específicamente las NPU. ¿Debería comprar una computadora portátil con una NPU? Robert Triggs / Android Authority Si bien están lejos de ser esenciales, especialmente si no le importa la tendencia de la IA, las NPU son necesarias para algunas de las últimas funciones que encontrará en el espacio de los dispositivos móviles y las PC. Copilot Plus de Microsoft, por ejemplo, especifica una NPU con 40 TOPS de rendimiento como requisito mínimo, que necesitará para usar Windows Recall. Desafortunadamente, los chips Meteor Lake de Intel y Ryzen 8000 de AMD que se encuentran en las computadoras portátiles actuales (al momento de escribir este artículo) no cumplen con ese requisito. Sin embargo, los chips Stix Point Ryzen recientemente anunciados por AMD son compatibles. No tendrá que esperar mucho para obtener una alternativa x64 a las computadoras portátiles Snapdragon X Elite basadas en Arm, ya que se esperan computadoras portátiles con tecnología Stix Point en el primer semestre de 2024. Herramientas populares de clase PC como Audacity, DaVinci Resolve, Zoom y muchas otras están disponibles. experimentando cada vez más con capacidades de IA en el dispositivo más exigentes. Si bien no son esenciales para las cargas de trabajo principales, estas funciones se están volviendo cada vez más populares y las capacidades de IA deberían tenerse en cuenta en su próxima compra si utiliza estas herramientas con regularidad. CoPilot Plus sólo será compatible con portátiles con una NPU suficientemente potente. Cuando se trata de teléfonos inteligentes, las características y capacidades varían un poco más según la marca. Por ejemplo, Galaxy AI de Samsung solo se ejecuta en sus potentes teléfonos insignia Galaxy S. No ha incorporado funciones como asistencia de chat o intérprete al asequible Galaxy A55, probablemente porque carece de la potencia de procesamiento necesaria. Dicho esto, algunas de las funciones de Samsung también se ejecutan en la nube, pero es probable que no se financien con compras más asequibles. Hablando de eso, Google es igualmente regular en términos de coherencia de funciones. Encontrarás lo mejor de los extras de IA de Google en el Pixel 8 Pro, como Video Boost; aún así, el Pixel 8 e incluso el asequible 8a ejecutan muchas de las mismas herramientas de IA. En última instancia, la IA está aquí y las NPU son las clave para disfrutar de funciones en el dispositivo que no se pueden ejecutar en hardware más antiguo. Dicho esto, todavía estamos en los primeros días de las cargas de trabajo de IA, especialmente en el espacio de las computadoras portátiles. Los requisitos de software y las capacidades de hardware no harán más que crecer en los próximos años. En ese sentido, esperar hasta que el polvo se asiente antes de saltar no hará daño. Comentarios
Etiqueta: SoC
Pero primero, un poco de historia… Las primeras funciones impulsadas por IA en los teléfonos inteligentes incluyen Face ID y Animoji en teléfonos equipados con Apple A11, como el iPhone X de 2017, impulsado por Neural Engine, la marca de Apple para su unidad de procesamiento neuronal. . Ese «motor neuronal» está diseñado para tareas de procesamiento de IA. / © Apple La NPU de Qualcomm en realidad es anterior a eso, con su Hexagon DSP (procesador de señal digital) reutilizado para acelerar el procesamiento neuronal alrededor de 2015. En ese momento, las empresas ya estaban posicionando la IA en una de las funciones más utilizadas aún en 2024: mejorar la cámara. calidad. Otras empresas también invirtieron en sus NPU poco después, y tanto MediaTek como Samsung desarrollaron sus propias soluciones. Pero la IA fue llevada al siguiente nivel gracias a un recién llegado al SoC móvil: Google y su chip Tensor de 2021, que lleva el nombre de los propios núcleos de inteligencia artificial. El momento de Google ahora parece oportuno, con todo el interés renovado que generan las herramientas de inteligencia artificial generativa como Dall-E, ChatGPT y una lista que parece expandirse diariamente. Y eso nos lleva a algunas de las funciones de IA (generativas o no) que la mayoría de nosotros podemos usar ahora mismo. Círculo para buscar (Pixel y Samsung) Google Lens puede ser una función útil en los teléfonos, pero no es la herramienta más fácil de usar. Con el lanzamiento del Galaxy S24, Samsung presentó una función de Google antes de que los teléfonos Pixel la tuvieran: simplemente presione prolongadamente la barra/botón de inicio y dibuje un círculo alrededor de un objeto para iniciar una búsqueda en Lens. Sin embargo, existe una pequeña limitación, ya que actualmente solo se puede acceder a la función Círculo para buscar en dispositivos Samsung que ejecutan One UI 6.1. Pero Samsung ya ha anunciado una lista de teléfonos que obtendrán las funciones Galaxy AI. Puede utilizar la función para identificar especies, objetos exóticos (en el siguiente ejemplo, un modelo VW exclusivo de América Latina), prendas de vestir e incluso resolver ecuaciones matemáticas. El círculo para buscar es básicamente Google-Lens-en cualquier lugar de su teléfono. / © nextpit Es cierto que Circle to Search no es una función de IA adecuada, sino más bien un atajo más conveniente para una: Google Lens. Funciones útiles de Galaxy AI en Samsung Notes Desde un atajo de IA hasta la tendencia actual en LLM (modelos de idiomas grandes), llegamos a las nuevas funciones Galaxy AI de Samsung para la aplicación Notes (entre otras). Este también depende de One UI 6.1. La aplicación, a menudo descuidada, estaba salpicada de las últimas tendencias tecnológicas y ofrece una serie de funciones diferentes impulsadas por IA. Destacaremos dos: Formato automático y Resumir, pero la versión inicial también ofrece un corrector ortográfico y una herramienta de traducción, que son bastante sencillos. Si bien una función similar está disponible en el servicio Microsoft OneNote, es exclusiva para los suscriptores de Co-Pilot. Las funciones de Samsung Notes AI, por otro lado, son gratuitas (al menos por ahora) en los teléfonos Galaxy compatibles. Formato automático Si las notas de su reunión o clase no son más que un montón de palabras aleatorias incluidas en la aplicación, el formato automático puede darle cierta apariencia de orden. La función organiza las notas en temas e incluso crea algunos encabezados basados en sus anotaciones. Para usarlo, simplemente sigue estas instrucciones: Toca el botón Galaxy AI (estrellas) en una nota abierta. Seleccione Formato automático y espere brevemente a que se procese. Desliza el dedo hacia la izquierda o hacia la derecha para seleccionar entre diferentes opciones de formato. Elija Copiar/Reemplazar/Agregar a. Los encabezados «introducción» y «beneficios» fueron creados por AI, junto con los listados. / © nextpit Resumir Si necesita más que una organización para sus notas, la nueva función AI Resumarize puede darles un poco de sabor, reformulando su contenido en algo sorprendentemente útil. Para probarlo usted mismo, abra una anotación en Samsung Notes y luego: Toque el botón Galaxy AI (estrellas). Elija Resumir. Verifique la sugerencia, luego use uno de los botones para copiar, reemplazar o agregar el texto resumido en un bloc de notas. El resumen generado estuvo bien organizado en nuestras pruebas. Además #rip SnapSatellite, la tendencia de 2023 no se impuso. / © nextpit Aislamiento de voz en iPhones Esta función de iOS y iPadOS hace que las llamadas a través de líneas telefónicas, FaceTime e incluso algunas aplicaciones de terceros sean más claras, especialmente en entornos ruidosos. Voice Isolation requiere iOS 16.4 en un iPhone XR/XS o posterior y bloquea el ruido de fondo. Para activarlo: Inicia una llamada de voz o video. Abra el Centro de control deslizándose hacia abajo desde la esquina superior derecha de la pantalla. Toque el acceso directo al modo micrófono. Seleccione Aislamiento de voz. La función no requiere auriculares conectados y funciona tanto con el teléfono junto a tu cara como en una llamada de voz tradicional, como con la pantalla apuntando hacia ti en una videollamada. El aislamiento de voz permanece habilitado en las siguientes llamadas hasta que se desactiva manualmente, una cosa a tener en cuenta. Mejore la calidad de audio de sus llamadas con un interruptor oculto en iOS. / © nextpit En nuestras pruebas, la función hizo un trabajo inquietantemente bueno al eliminar el ruido de fondo que distraía, como si el orador estuviera en una cabina de sonido, incluso cuando estaba en un balcón con un tranvía pasando. Por supuesto, su kilometraje variará y siempre podrá preguntarle a la otra persona si es mejor habilitar o deshabilitar el aislamiento de voz. Elimina objetos no deseados con Magic Eraser (iPhone y Android) Todos hemos pasado por eso, la imagen “perfecta” arruinada por un dedo sobre la cámara, alguna persona al azar o, peor aún, un fotobombardero. Magic Eraser te permite simplemente editarlos, llenando el vacío con resultados sorprendentemente buenos. La función funciona con imágenes guardadas en su cuenta de Google Photos y requiere una cuenta de Google One o un teléfono Pixel compatible. Para propietarios de Pixel y suscriptores de Google One, simplemente sigan estos pasos: Seleccione una imagen en la aplicación Google Photos. Elija Editar. Seleccione el menú Herramientas. Toca Borrador mágico. Dibuja alrededor o sobre el objeto a eliminar. Confirme la edición tocando Listo y luego Guardar copia. Magic Eraser puede realizar ediciones rápidas adecuadas para compartir en las redes sociales. / © nextpit Magic Editor en Pixel y Galaxy AI Los teléfonos Pixel 8 y Galaxy S24 (por ahora) pueden usar una versión más potente de Magic Eraser. Sin embargo, mientras Magic Eraser funciona en el dispositivo (por ejemplo, sin conexión), Magic Editor procesa imágenes en los servidores de Google, lo que requiere una conexión a Internet. Los pasos son similares a los del Magic Eraser, pero Magic Editor también se puede usar para mover sujetos alrededor de la imagen, y en nuestras pruebas ofreció mejores resultados al llenar el espacio debajo de un objeto eliminado: seleccione una imagen en Google Photos (Pixel) o Galería Samsung (Galaxia). Toque el botón Magic Editor (ícono de estrellas en One UI) en la esquina inferior izquierda. Dibuja alrededor del objeto que vas a mover/eliminar. Toque el botón Borrar. En One UI, mantenga presionada la selección y elija el ícono de borrar, luego presione Generar. Confirme la edición tocando el botón de marca de verificación (Hecho en teléfonos Galaxy). Magic Editor puede mover objetos por la escena pero requiere una conexión a Internet. / © nextpit Con el procesamiento de IA basado en la nube, se recomienda leer los términos y condiciones de los servicios que utiliza, generalmente disponibles para leer antes de habilitarlos. Como regla general, no recomendamos compartir información de identificación personal ni datos confidenciales. También es importante destacar que todos los proveedores de IA desaconsejan el uso de sus servicios con fines médicos, legales, financieros u otros fines críticos. Como escribe Google en sus documentos legales: No envíe información sensible, confidencial o personal a los Servicios. ¿Qué pasa contigo? ¿Qué funciones impulsadas por IA te impresionaron? ¿Tuviste más suerte que nosotros con las funciones de traducción en vivo? ¿O crees que la IA es solo otra moda tecnológica como el metaverso, la conectividad satelital y otras tendencias de temporadas pasadas?