Setelah berbulan-bulan beredar rumor, telah dipastikan bahwa Microsoft akan mulai membuat chip AI-nya sendiri. Yang pertama, chip Azure Maia 100 dan Cobalt 100, akan tiba sekitar tahun 2024.
Langkah Microsoft ini kemungkinan besar dimaksudkan untuk menghindari ketergantungan berlebihan pada Nvidia, yang GPU H100-nya biasanya digunakan untuk mengoperasikan alat pembuatan gambar dan model bahasa AI.
Chip Azure Cobalt 100 dirancang khusus untuk Microsoft untuk mendukung layanan berbasis cloud Azure, dan desainnya dilaporkan akan memungkinkan kontrol kinerja dan konsumsi daya per inti.
Untuk tujuan ini, Microsoft berupaya merombaknya Infrastruktur awan Azure menurut pernyataan yang dibuat oleh kepala sistem perangkat keras dan infrastruktur Azure di Microsoft Rani Borker dalam sebuah wawancara baru-baru ini. Borker antara lain mengatakan, “Kami memikirkan kembali infrastruktur cloud untuk era AI, dan benar-benar mengoptimalkan setiap lapisan infrastruktur tersebut.”
Chip akselerator AI Maia 100, seperti namanya, dirancang untuk menjalankan operasi AI berbasis cloud seperti pelatihan model bahasa. Chip Maia 100 saat ini sedang diuji pada GPT 3.5 Turbo. Seperti yang ditambahkan Borkar,
“Maia adalah prosesor server berpendingin cairan lengkap pertama yang dibuat oleh Microsoft. Tujuannya di sini adalah untuk memungkinkan kepadatan server yang lebih tinggi dengan efisiensi yang lebih tinggi. Karena kami menata ulang keseluruhan tumpukan, kami sengaja memikirkan setiap lapisannya, sehingga sistem ini benar-benar akan sesuai dengan jejak pusat data kami saat ini.”
Saat ini spesifikasi lengkap dan tolok ukur kinerja chip Maia 100 dan Cobalt 100 belum dipublikasikan. Namun, diketahui bahwa chip ini hanyalah seri pertama, dan chip Maia 100 dan Cobalt 100 generasi kedua sudah dalam tahap desain.
