2019 年 11 月 5 日，OpenAI 公開 15 億參數的 GPT-2
2019 年 11 月 5 日，OpenAI 公開 GPT-2 語言模型最大的 15 億參數版本，連同程式碼及模型權重一併釋出，即任何人都可下載並在自己的電腦上執行整個模型。參數是模型內部可調整的數值，數目愈多，一般代表模型愈大、寫出來的文字愈流暢。這次發布為 OpenAI 由同年 2 月開始的「分階段發布」畫上句號。
為何 OpenAI 起初不肯公開完整模型
OpenAI 在 2019 年 2 月首次公布 GPT-2 時，只放出較小的版本，理由是擔心完整模型會被用來大量製造假新聞或垃圾內容。據 OpenAI 在 GitHub 的模型說明，GPT-2 共有四個大小，由小至大是 1.24 億、3.55 億、7.74 億及 15 億參數，OpenAI 分數個月逐級放出。
版本 | 參數數目 |
|---|---|
細 | 1.24 億 |
中 | 3.55 億 |
大 | 7.74 億 |
完整 | 15 億 |
康奈爾研究：讀者給 15 億版本 6.91 分可信度
OpenAI 在發布文章中引述合作夥伴康奈爾大學的研究，受訪者為 15 億參數版本寫出的文字給予 6.91 分（滿分 10 分）的「可信度」評分，略高於 7.74 億版本的 6.72 分，明顯高於 3.55 億版本的 6.07 分。
同一篇文章又指，OpenAI 當時「未見濫用的有力證據」，雖然有人討論 GPT-2 可用於垃圾郵件及釣魚郵件這類大量發送、回報率低的用途，但未見有人寫出相關程式或實際濫用的個案。
一併推出辨認 AI 文字的偵測模型
OpenAI 同日推出一個偵測模型，以 Facebook 的 RoBERTa 模型為基礎，用 GPT-2 寫出的大量文字訓練，用來判斷一段文字是否由 GPT-2 生成。OpenAI 表示，這個偵測模型辨認 15 億參數版本文字的準確率約為 95%，但預料模型愈大，偵測只會愈困難。
The Verge 當時報道，這個曾被稱為「太危險而不宜公開」的模型，最終在九個月後全數公開。
之後的 GPT 不再公開權重
GPT-2 之後，OpenAI 的 GPT-3 以至 ChatGPT 背後的模型都只經 OpenAI 自家服務提供，沒有再公開權重。直至 2025 年 8 月，OpenAI 推出 gpt-oss 系列，稱是 GPT-2 之後首批公開權重的語言模型。
來源
- GPT-2: 1.5B release（OpenAI 官方發布文章）
- GPT-2 model card（OpenAI GitHub 模型說明）
- OpenAI has published the text-generating AI it said was too dangerous to share（The Verge）
暫時未有留言
提交留言即表示你已閱讀我們的私隱政策。