Después de meses de rumores, se ha confirmado que Microsoft comenzará a construir sus propios chips de IA. El primero de ellos, los chips Azure Maia 100 y Cobalt 100, llegará en algún momento de 2024.
Es probable que esta medida por parte de Microsoft tenga como objetivo evitar una dependencia excesiva de Nvidia, cuyas GPU H100 se utilizan comúnmente para operar herramientas de generación de imágenes de IA y modelos de lenguaje.
El chip Azure Cobalt 100 está diseñado a medida para que Microsoft impulse los servicios basados en la nube de Azure y, según se informa, su diseño permitirá controlar el rendimiento y el consumo de energía por núcleo.
Con este fin, Microsoft está buscando revisar el Infraestructura de nube de Azure según declaraciones realizadas por el jefe de infraestructura y sistemas de hardware de Azure en Microsoft, Rani Borker, en una entrevista reciente. Borker dijo en parte: "Estamos repensando la infraestructura de la nube para la era de la IA y, literalmente, optimizando cada capa de esa infraestructura".
El chip acelerador de IA Maia 100 está, como su nombre indica, diseñado para ejecutar operaciones de IA basadas en la nube, como el entrenamiento de modelos de lenguaje. El chip Maia 100 se está probando actualmente en GPT 3.5 Turbo. Como añadió Borkar,
“Maia es el primer procesador de servidor completo con refrigeración líquida creado por Microsoft. El objetivo aquí era permitir una mayor densidad de servidores con mayor eficiencia. Debido a que estamos reimaginando toda la pila, pensamos deliberadamente en cada capa, por lo que estos sistemas realmente encajarán en el espacio actual de nuestro centro de datos”.
En este punto, las especificaciones completas y los puntos de referencia de rendimiento de los chips Maia 100 y Cobalt 100 no se han hecho públicos. Sin embargo, ya se sabe que estos chips son simplemente los primeros de una serie y que la segunda generación de los chips Maia 100 y Cobalt 100 ya se encuentran en la fase de diseño.