2023 年今日發生了甚麼
2023 年 11 月 21 日,美國人工智能公司 Anthropic 推出 Claude 2.1,即日在 API 及聊天服務 claude.ai 上線。新模型的上下文窗口,即模型一次可讀入的內容,擴大至 20 萬個詞元(token,模型處理文字的基本單位),比上一代 Claude 2.0 多一倍。
Anthropic 在公告中指,20 萬個詞元約相當於 15 萬個英文字,或逾 500 頁資料,用戶可以上載整個程式碼庫、上市申請文件,甚至《伊利亞特》和《奧德賽》等長篇作品,再要求模型摘要、問答或比較多份文件。完整的 20 萬詞元窗口只開放給付費的 Claude Pro 用戶。
推出時正值 OpenAI 管理層危機
據德國科技網站 The Decoder 當日報道,Claude 2.1 在 OpenAI 陷入存亡危機之際推出。OpenAI 在同月初推出的 GPT-4 Turbo,上下文窗口達 12.8 萬個詞元,已超越 Claude 2.0 的 10 萬個;The Decoder 指,Claude 2.1 推出後,Anthropic 再次成為上下文窗口最大的模型供應商。
錯誤陳述減半,並加入工具使用
Anthropic 公布的改進如下:
項目 | Claude 2.1 對比 Claude 2.0 |
|---|---|
上下文窗口 | 20 萬個詞元,多一倍 |
錯誤陳述 | 減少一半 |
長文件問答的錯誤答案 | 減少 30% |
誤指文件支持某個說法 | 比率低 3 至 4 倍 |
Anthropic 以一批針對模型已知弱點的事實題測試,指 Claude 2.1 遇上不肯定的問題時,明顯較傾向承認不知道,而不是給出錯誤答案。新版亦加入測試版「工具使用」功能,讓模型按需要呼叫開發者定義的函數或 API、搜尋網頁資料;另設「系統提示」,讓用戶預先設定模型的角色和回應方式。
之後怎樣:一句提示令準確率由 27% 升至 98%
推出後,外界一項測試把一句與內容無關的句子藏在長文件中,再向 Claude 2.1 提問,模型多次回答文件沒有提供答案。Anthropic 在 2023 年 12 月 6 日發文解釋,模型受訓練在資料不足時避免作答,句子越格格不入,模型越不願回答;只要在模型回應開頭加上「以下是上下文中最相關的句子:」,同一測試的得分便由 27% 升至 98%。
2024 年 3 月 4 日,Anthropic 推出 Claude 3 系列,包括 Haiku、Sonnet 及 Opus 三個模型。




暫時未有留言
提交留言即表示你已閱讀我們的私隱政策。