Microsoft Maia 300

概要

• Maia 300は、CopilotやTeamsなどMicrosoft製品の大規模なAI推論を支える、推論処理に特化した次世代プラットフォームです。
• 長文コンテキストの推論、低遅延の会話、複数ステップのエージェント処理を主な用途として想定しています。
• 2027年から生産導入とAzure Maiaのマルチギガワット規模への拡張を開始する計画が示されています。

主な特徴

• 8基のHBM4スタックにより最大18.0TB/sの帯域幅を実現し、1ラックに96基のアクセラレーターと27.6TBのHBMを搭載します。
• TSMCのN2Pプロセスによるチップレット構成を採用し、計算、メモリー制御、I/Oを分離して拡張性を高めています。
• MXFP4などの低精度フォーマットや独自のAI通信技術に対応し、電力・メモリー・帯域幅の効率化を図っています。

性能と導入計画

• Microsoftの発表によれば、1メガワットあたりの処理トークン数は40%増加しますが、比較対象や数値は独立ベンチマークで未検証です。
• Maia 300のラックは、ラック規模でMaia 200の最大7倍のトークン処理性能に達する見込みとされています。
• Maia 200は米国、欧州、オーストラリアで稼働中で、Maia 300は2027年から本番環境への導入が始まります。