Efter månader av rykten har det bekräftats att Microsoft kommer att börja bygga sina egna AI-chips. Den första av dessa, Azure Maia 100 och Cobalt 100 marker, kommer någon gång under 2024.
Detta drag från Microsofts sida är sannolikt avsett att undvika ett överdrivet beroende av Nvidia, vars H100 GPU: er ofta används för att använda AI-bildgenerering och språkmodellverktyg.
Azure Cobalt 100-chippet är specialdesignat för Microsoft att driva Azure molnbaserade tjänster, och dess design kommer enligt uppgift att möjliggöra kontroll av prestanda och strömförbrukning per kärna.
För detta ändamål funderar Microsoft på att se över Azure molninfrastruktur enligt uttalanden från chefen för Azures hårdvarusystem och infrastruktur på Microsoft Rani Borker i en nyligen intervju. Borker sa delvis, "Vi omprövar molninfrastrukturen för AI-tiden och optimerar bokstavligen varje lager av den infrastrukturen."
Maia 100 AI-acceleratorchippet är, som namnet antyder, designat för att köra molnbaserade AI-operationer såsom utbildning av språkmodeller. Maia 100-chippet testas för närvarande på GPT 3.5 Turbo. Som Borkar tillade,
"Maia är den första kompletta vätskekylda serverprocessorn byggd av Microsoft. Målet här var att möjliggöra högre densitet av servrar med högre effektivitet. Eftersom vi omarbetar hela stacken tänker vi medvetet igenom varje lager, så dessa system kommer faktiskt att passa in i vårt nuvarande datacenter."
För närvarande har fullständiga specifikationer och prestandariktmärken för Maia 100- och Cobalt 100-chippen inte offentliggjorts. Det är dock redan känt att dessa marker bara är de första i en serie, och att den andra generationen av Maia 100 och Cobalt 100 marker redan är i designfasen.
