Nakon mjeseci glasina, potvrđeno je da će Microsoft započeti s izgradnjom vlastitih AI čipova. Prvi od njih, Azure Maia 100 i Cobalt 100 čipovi, stići će negdje 2024.
Ovaj korak od strane Microsofta vjerojatno je namijenjen izbjegavanju pretjeranog oslanjanja na Nvidiju, čiji se H100 GPU-ovi obično koriste za upravljanje alatima za generiranje AI slika i jezičnim modelima.
Čip Azure Cobalt 100 posebno je dizajniran za Microsoft za napajanje Azure usluga temeljenih na oblaku, a njegov će dizajn navodno omogućiti kontrolu performansi i potrošnje energije po jezgri.
U tu svrhu Microsoft nastoji revidirati Infrastruktura Azure oblaka prema izjavama voditelja Azure hardverskih sustava i infrastrukture u Microsoftu Ranija Borkera u nedavnom intervjuu. Borker je djelomično rekao: "Promišljamo infrastrukturu oblaka za eru umjetne inteligencije i doslovno optimiziramo svaki sloj te infrastrukture."
Maia 100 AI akceleratorski čip je, kao što mu ime govori, dizajniran za pokretanje AI operacija temeljenih na oblaku kao što je obuka jezičnog modela. Čip Maia 100 trenutno se testira na GPT 3.5 Turbo. Kako je dodao Borkar,
“Maia je prvi potpuni poslužiteljski procesor hlađen tekućinom koji je napravio Microsoft. Ovdje je cilj bio omogućiti veću gustoću poslužitelja uz veću učinkovitost. Budući da ponovno zamišljamo cijeli skup, namjerno promišljamo svaki sloj, tako da će se ovi sustavi zapravo uklopiti u naš trenutni otisak podatkovnog centra.”
U ovom trenutku potpune specifikacije i mjerila performansi za čipove Maia 100 i Cobalt 100 nisu javno objavljeni. No, već je poznato da su ovi čipovi tek prvi u nizu, te da je druga generacija čipova Maia 100 i Cobalt 100 već u fazi projektiranja.