Microsoft 完成 MAI-Base-2 預訓練：2.8 兆參數自家模型

Microsoft 完成預訓練的 MAI-Base-2 有多大？

Microsoft AI 在 2026 年 10 月 15 日發表技術文章，宣布已完成新一代基礎模型 MAI-Base-2 的預訓練。這是一個混合專家（MoE）模型，總參數 2.8 兆，每次啟用 800 億，訓練數據約 50 兆個詞元（token）。Microsoft AI 行政總裁 Mustafa Suleyman 在 X 上表示，Microsoft 現已擁有 3 兆參數級別、完全自家打造的頂尖預訓練基礎模型。

它和其他模型比較如何？

據 Microsoft AI 的技術文章，MAI-Base-2 在保留測試集上的表現，勝過所有受測的開放權重模型，對手包括 DeepSeek-V4-Pro-Base、Kimi K3 和 Qwen3.8。Microsoft 稱它的預訓練運算效率是 DeepSeek-V4-Pro-Base 的 4.2 至 12.3 倍，但文章沒有列出具體分數。

與上一代 MAI-Base-1 相比，MAI-Base-2 規模更大、更稀疏，訓練數據的獨特詞元增加約 36%，並首次原生加入視覺數據，視覺語言語料佔整體約 18%。據 Crypto Briefing 報道，MAI-Base-1 用了約 30 兆詞元和 8,192 片 GB200 訓練。

為何強調「完全自家打造」？

Microsoft 表示，MAI-Base-2 只用自然數據訓練，沒有從其他模型蒸餾（distillation），每個訓練詞元都由公司內部處理；網頁數據來自遵守 robots.txt 的自家爬蟲。技術文章寫道：「端到端掌握模型流程，讓 Microsoft 能為客戶提供與別不同的產品。」

據 Crypto Briefing 報道，Microsoft AI 在 2026 年 6 月 2 日的 Build 大會上公開 MAI 系列，一次推出七個模型；旗艦推理模型 MAI-Thinking-1 建基於 MAI-Base-1。MAI 模型已用於 Copilot 等 Microsoft 自家服務，公司亦計劃由 2027 年起大規模部署自家 Maia 晶片。

下一步是甚麼？

Microsoft AI 表示，MAI-Base-2 正進行後訓練，結果會稍後公布，MAI-Base-3 的準備工作亦已展開。公司計劃透過 Foundry 平台，把模型權重授權予可信任的合作夥伴，但未有公布推出日期。

來源

• Frontier Pre-training at Microsoft AI（Microsoft AI）
• Microsoft finishes pre-training MAI-Base-2, its next in-house foundation model（Crypto Briefing）
• Microsoft Builds 2.8T-Parameter Model to Rival Open Weights（FourWeekMBA）