En una extensión de su asociación de IA, Oracle y Microsoft firmaron un acuerdo de varios años para respaldar la creciente demanda de búsquedas conversacionales de Bing, que se abrió al público recientemente. Como parte del acuerdo, Microsoft utilizará su propia infraestructura Azure para IA en combinación con Oracle Cloud Infrastructure (OCI) Supercluster, un servicio de inferencia y capacitación en supercomputación compatible con GPU de Nvidia lanzado en marzo. El servicio OCI Supercluster es el primer nivel de La estrategia de IA generativa de Oracle, dirigida a empresas como Cohere o Hugging Face, que están trabajando en el desarrollo de grandes modelos de lenguaje (LLM) para dar soporte a sus usuarios finales. La combinación de OCI Supercluster y Azure AI permitirá a Microsoft realizar inferencias de modelos de IA que se optimizan continuamente para impulsar las búsquedas conversacionales de Bing todos los días, dijeron las compañías en un comunicado conjunto. La inferencia es un proceso mediante el cual un sistema de inteligencia artificial saca conclusiones o hace predicciones basadas en la información y el conocimiento que tiene. Microsoft Azure, Microsoft puede utilizar servicios administrados como Azure Kubernetes Service (AKS) para orquestar OCI Compute a escala masiva para respaldar la creciente demanda de búsqueda conversacional de Bing”, dijeron las compañías, y agregaron que la búsqueda conversacional de Bing requiere potentes grupos de infraestructura informática que respaldar la evaluación y el análisis de los resultados de búsqueda que se realizan mediante el modelo de inferencia de Bing. Los modelos de inferencia, según Oracle y Microsoft, en general requieren miles de instancias de computación y almacenamiento y decenas de miles de GPU que puedan operar en paralelo como una única supercomputadora en una red multiterabit. En septiembre, Oracle amplió su asociación con Microsoft al colocar su hardware de base de datos (incluido Oracle Exadata) y software en centros de datos de Microsoft Azure, brindando a los clientes acceso directo a los servicios de bases de datos de Oracle que se ejecutan en Oracle Cloud Infrastructure (OCI) a través de Azure. Copyright © 2023 IDG Communications, Inc.

Source link