Elon Musk 稱 Grok 4.8 本周完成訓練 4.7 仍未推出

2.5 兆參數，本周完成訓練

SpaceXAI 創辦人 Elon Musk 9 月 14 日（周一）早上 9 時 24 分在社交平台表示，Grok 4.8 是一個 2.5 兆參數的模型，以公司新的 C++ 軟件框架訓練，「本周會完成訓練，然後開始強化學習（RL）」。他當時是回應網民查詢，除了 Grok 4.7 之外，SpaceXAI 9 月還會推出甚麼。

強化學習是大型語言模型完成預訓練後的調校階段，模型要經過這一步才會推出。Elon Musk 沒有交代 Grok 4.8 的推出日期。

Grok 4.7 仍未推出

Grok 4.8 的消息，出現在上一代 Grok 4.7 仍未推出之際。多份報道指，Elon Musk 早前把 Grok 4.7 的推出時間指向 9 月 12 日前後，惟到期未有推出。

他 9 月 12 日（周六）凌晨 1 時 22 分在社交平台解釋，Grok 4.7「還需要多幾天」。他指，團隊在強化學習階段可能對回答長度罰得太重，令模型遇到困難任務時「太早放棄，而這些任務它其實做得到」，檢查自己答案時亦不夠嚴謹。

據報 Grok 4.7 約有 2.1 兆參數，惟 SpaceXAI 未有公布規格，數字只來自引述 Elon Musk 的報道。

三代模型的參數

翻查資料，Grok 4.6 沿用 Grok 4.5 的 1.5 兆參數基礎模型，改進主要來自較長的監督式微調和強化學習。換言之，若 Grok 4.8 的數字屬實，它的參數量比現時已推出的最新模型多約六成七。

用 C++ 重寫整套訓練程式

Elon Musk 6 月 29 日曾在社交平台表示，「真正巨大的提升」會在約三個月後出現，屆時整套訓練及推理程式會以 C/C++ 重寫並大幅簡化，大部分軟件層會完全刪除，並針對 NVIDIA GB300 晶片度身調校。

據報 SpaceX 稱，這套自行開發的訓練框架，大型訓練的速度可比 Google 的 JAX 框架快逾十倍，惟數字未經獨立驗證。Elon Musk 今次形容 Grok 4.8 是以「新的 C++ 軟件框架」訓練，時間與他 6 月所講的三個月大致吻合。

來源

• Elon Musk 9 月 14 日的貼文（原始貼文）
• Grok 4.7 Needs a Few More Days to Cook, Elon Says（TeslaNorth）