OpenAI 買的不是 GPU 叢集 是數萬部桌面機
科技媒體 The Information 報道，OpenAI 過去數月陸續買入數以萬計 Mac mini 與 Mac Studio。數量是以萬計，不是以千計。
這批機器與 OpenAI 一向租用的雲端 GPU 叢集是兩回事。GPU 叢集負責大模型預訓練，這批 Mac 則專門用來訓練 computer-use agent（電腦操作代理，即是可以自行開啟軟件、填寫表格、整理郵件的 AI）。訓練方法是強化學習：讓代理在真實作業系統裡看畫面、落決定、收回饋，重複數以百萬次。
OpenAI 與蘋果都未公開確認。報道亦沒有列出確切數量與金額，只說採購橫跨過去數個月。
統一記憶體為何比 GPU 伺服器合用
蘋果晶片的統一記憶體設計，把 CPU、GPU 與神經引擎放在同一顆晶片上共用一池記憶體。對大模型預訓練來說這不是優勢，因為預訓練吃的是純運算力與極高平行度，GPU 叢集正是為此而生。
但電腦操作代理的訓練形狀完全不同。代理要在一個完整作業系統裡跑起來，逐格觀察畫面、逐步操作介面，這種工作瓶頸在記憶體而不在運算力，平行度亦遠低於預訓練。換句話說，一部有大容量共用記憶體的小主機，在這類任務上的性價比，反而勝過一台企業級 GPU 伺服器。
項目 | 大模型預訓練 | 電腦操作代理強化學習 |
|---|---|---|
主要瓶頸 | 運算力 | 記憶體容量 |
平行度 | 極高 | 偏低 |
需要完整作業系統 | 否 | 是 |
對應硬件 | 雲端 GPU 叢集 | 蘋果統一記憶體桌面機 |
還有一重限制少人提及：macOS 只能在蘋果硬件上合法運行。任何要在真實 macOS 環境裡訓練代理的團隊，最終都要碰到實體 Mac，租或買只是形式分別。
Mac Studio 交貨期由兩周拉長至近兩個月
採購規模已經在供應鏈上留下痕跡。Mac Studio 的交貨期由原本約兩周，拉長至接近兩個月，其中高記憶體配置受影響最深，正正是這類工作負載最需要的規格。行政總裁 Tim Cook 早前亦承認缺貨問題需時解決，Mac mini 近月一度出現 4 至 10 周的等候期。
蘋果的回應是提前更新產品線。8 月 25 日，蘋果在慣常的 9 月 iPhone 發佈會之前突擊發表 M6 Mac mini 與 M5 Ultra Mac Studio，並強調多部機器可以串連處理更大型的工作負載。The Information 的報道在數日後才刊出。
機款 | 港版起始售價 | 記憶體上限 |
|---|---|---|
Mac mini（M6） | 7,299 港元 | 32GB |
Mac mini（M5 Pro） | 13,999 港元 | 64GB |
Mac Studio（M5 Max） | 19,999 港元 | 256GB |
Mac Studio（M5 Ultra） | 44,999 港元 | 512GB |
據 Crypto Briefing 引述的數字，蘋果 Mac 業務上季收入 104 億美元，按年增長 29%。這條產品線原本面向創作者與開發者，現在多了一批以萬部為單位下單的客戶。
Anthropic 租，OpenAI 買
同一個瓶頸，兩間公司給出兩個答案。Anthropic 沒有自建 Mac 機房，而是透過 Amazon Web Services 租用 Mac mini 產能處理同類強化學習任務。AWS 的 EC2 Mac 服務本身就是把實體 Mac mini 上架出租，所以雙方最終用的其實是同一種機器。
分別在資產負債表。OpenAI 買機器，換來的是不用排隊、不受別人配額限制，代價是把資本壓在一批兩年後就落後的桌面機上。Anthropic 租機器，換來的是彈性與零庫存風險，代價是每一小時都在付租金，而且產能上限由 AWS 決定。
值得留意的是這件事本身透露的訊號：當兩間最前沿的實驗室都要靠消費級桌面機來訓練代理，說明「讓 AI 操作電腦」這件事的難處，從來不在算力，而在要給它一個真實的電腦去試錯。
來源
- OpenAI reportedly buys tens of thousands of Mac minis for AI training（Crypto Briefing，引述 The Information 原始報道）
- OpenAI Buys Thousands Of Mac Minis Triggering Shortages; Pushes Apple To Fast-Track New Models（Free Press Journal）
No comments yet