主要成果
Microsoftは、総パラメータ数2.8兆規模の次世代基盤モデル「MAI-Base-2」を発表した。社内評価によると、本モデルはベンチマークに使用した主要なオープンウェイトモデルすべてを上回る性能を示している。特に中国のAI企業DeepSeekの「DeepSeek-V4-Pro-Base」と比較して、同等の性能を得るために必要な計算量を4.2倍から12.3倍削減したとしている。また、前世代の「MAI-Base-1」と比較して、学習効率は6.3倍から12.7倍向上した。
技術・詳細
MAI-Base-2は、Mixture-of-Experts（MoE）アーキテクチャを採用している。2.8兆の総パラメータのうち、実際の推論時にアクティブになるのは約800億パラメータのみであり、入力データに応じて必要なエキスパートネットワークのみを起動させることで、モデル規模を拡大しつつ計算負荷を抑制している。
学習は2026年8月から9月にかけて38日間で実施され、16,000基のNvidia GB200 GPUを使用し、約50兆トークンを消費した。このうち画像などの視覚データが18%を占める。技術的な最適化として、以下の取り組みが行われた。
- MoE構造のメモリ管理を最適化し、モデル計算利用率を24%から35%に向上。
- 「Muon」最適化アルゴリズムおよび勾配調整技術を適用し、学習の安定性を確保。
- 他社モデルの出力を学習させる蒸留（distillation）を避け、独自ソースデータのみを使用。独自トレーニングデータ量は前モデル比で約36%増加した。
また、本モデルは最初からテキストと画像を同時に学習させる視覚言語モデル（VLM）として設計されており、独立した画像エンコーダーなしで、チャート分析や空間推論、コンピュータ操作などの視覚タスクを処理できる。
背景・業界の文脈
AIによる大規模なソフトウェア書き換えの事例も注目されている。開発者のTheo Browne氏は、AIエージェントを用いてTypeScriptの開発ツールをRust言語に移植するプロジェクト「TS_Rust」を公開した。同氏は当初OpenAIのモデルを使用したが、コストに40万ドル以上を要し、互換性テストの合格率は約84%に留まった。その後、AnthropicのClaudeモデルに切り替えたところ、コストを約2万4,000ドルに抑えつつ、ほとんどの公式互換性テストに合格したという。この結果、既存のTypeScript実装より約12.5倍、Microsoftが開発中のGoベース実装より約2倍高速な動作を実現したとしている。
また、Microsoftは自社のCopilotランタイムをRustで書き直しており、そのAIコストに約12万ドルを費やした。GoogleもGemini 4 Argonモデルを用いて、主要なC/C++コードベースをRustへ移植している。
今後の展望
Microsoftは現在、MAI-Base-2のポストトレーニング（事後学習）を進めており、今後さらなる性能評価結果を公開する予定である。また、AIプラットフォーム「Microsoft Foundry」を通じて、エンタープライズ顧客にモデルウェイトを提供することを計画している。さらに、次世代モデル「MAI-Base-3」の開発準備にも着手しており、独自モデルとインフラの両面から性能向上とコスト競争力の強化を継続的に追求する方針だ。
元記事: https://finance.biggo.com/news/628565eb-7cc6-46b5-a61f-8be6fcbebc5b
毎週の技術動向レポートを無料でお届け
各分野の分析レポートを読む価値があるかどうか一目で判断できるインフォグラフィックをメールで受け取れます。
📢 メールマガジンに無料登録（週刊・技術動向レポート）
ご登録いただくと、Troy-Technical から週刊で技術動向レポート（メールマガジン）をお届けします。
- 取得したメールアドレス・選択分野は配信目的にのみ使用します。
- 第三者へ提供することはありません。
- 配信はいつでも解除できます（各メール下部のリンクから）。
詳しくはプライバシーポリシーをご覧ください。
登録は1分・いつでも解除できます
