AT&T 用開源模型壓 Anthropic 帳單 成本減 56%
美國電訊商 AT&T 正把員工的 AI 查詢轉向開源模型，令 Anthropic 與 OpenAI 的帳單維持不變。據 The Information 報道，開源模型現時處理四成內部查詢，數年內將推高至六至七成，編程等進階任務成本最多減少 56%，質素只跌 2%。負責人 Mark Austin 指開源版本已追平兩家較舊的模型。
標籤
Nemotron
分區分佈
- 人工智能2
標籤
美國電訊商 AT&T 正把員工的 AI 查詢轉向開源模型，令 Anthropic 與 OpenAI 的帳單維持不變。據 The Information 報道，開源模型現時處理四成內部查詢，數年內將推高至六至七成，編程等進階任務成本最多減少 56%，質素只跌 2%。負責人 Mark Austin 指開源版本已追平兩家較舊的模型。
🤖 NVIDIA 正在開發新一代開源模型 Nemotron 4，據 The Information 引述參與項目的員工，最大型號參數量至少一萬億，最快今年秋末就緒。公司為 Nemotron 設下的雲端運算預算上限為 70 億美元，涵蓋至 2028 財政年度。開源模型越強，市場對運算力的胃口就越大，NVIDIA 一邊賣鏟，一邊親手造出淘金的理由。