MicrosoftはAzureで新しいAIスーパーコンピューターを構築しました

マイクロソフトが昨年発表した人工知能のスタートアップOpenAIとのパートナーシップは実り多いものでした。 少なくとも、今年のBuildイベントで、彼らは世界で5番目に強力なAIコンピューターを構築したと発表したからです。

Microsoft AIスーパーコンピューターの技術仕様は何ですか？

OpenAIと一緒に開発されたスーパーコンピューターは、285,000を超えるCPUコア、10,000のGPU、および各GPUサーバーの毎秒400ギガビットのネットワーク接続を備えた単一のシステムです。

マイクロソフト ブログ投稿に書き込みます そのcTOP500に記載されている他のマシンと比較して 世界のスーパーコンピューターで、そのシステムはトップ5にランクされています。

これは、自然言語処理で100のエキサイティングなことを一度に実行でき、コンピュータービジョンで100のエキサイティングなことを実行できることです。 そして、これらの知覚ドメインの組み合わせを見始めると、今では想像もできない新しいアプリケーションができあがります。

、OpenAIのCEO、サム・アルトマンは語った。

Microsoft AIスーパーコンピューターは何に使用されますか？

Microsoftは、MicrosoftTuringモデルをオープンソースで提供し始めることと、Azure MachineLearningでそれらをトレーニングするためのレシピを発表しました。

開発者の場合、これにより、Microsoftがすべての製品の言語理解を向上させるために使用しているのと同じ言語モデルファミリにアクセスできるようになります。

また、新しいバージョンのDeepSpeedでスーパーコンピューターを使用します。

慣れていない人のために、DeepSpeedはPyTorch用のオープンソースのディープラーニングライブラリです。 これにより、大規模な分散モデルのトレーニングに必要な計算能力が削減されます。

このアップデートは、3か月前にリリースされたバージョンよりもはるかに優れています。 今では、同じインフラストラクチャでDeepSpeedを使用せずに同じことを行うよりも、15倍以上大きく、10倍速くモデルをトレーニングできます。