一句警告，衝着雲端模型而來
加密貨幣項目 Cardano 創辦人 Charles Hoskinson 在 9 月 9 日的網上直播中直言，學者與創業者若把未發表的想法交給雲端上的前沿模型，「這些想法就不再是你的想法」。他指，使用集中式 AI 服務的研究人員應該問清楚，自己輸入的 prompt、筆記與研究紀錄是否仍然保密。
Hoskinson 形容 AI 近期在數學上的進展「相當驚人」，遠超他的預期，過去他認為 AI 獨力寫出一份完整證明是頗為遙遠的事。惟他同時認為，這場進展暴露了一個弱點：研究人員無從得知 AI 供應商保留了什麼材料，以及那些材料日後會用在哪裏。
起點是一條懸空多年的方程
引發討論的是 OpenAI 在 9 月 8 日公布的研究。該公司稱，一個內部模型調動約 1 萬個同時運作的代理程式，用 88 小時就 Navier-Stokes 方程提出解法，其後由 GPT-6 Astra 再花 17 小時，在數學證明核對工具 Lean 上把論證形式化，逐步驗算。單是 Navier-Stokes 一題，代理程式之間往來 270 萬條訊息，輸出約 1,300 億個 token。
Navier-Stokes 是克雷數學研究所七條千禧年大獎難題之一，獎金 100 萬美元。研究所至今未把問題列為已解決：按其規則，解法要先在期刊發表，再經過兩年等待期，並得到數學界廣泛接受，才會納入考慮。
一名數學家問了兩次，只得到一半答案
質疑來自紐約大學數學家 Tristan Buckmaster。他與 Anthropic 研究員 Levent Alpöge 花了數月研究同一類流體方程，而整個項目的每一份草稿，都經過 OpenAI 的 Codex。
Buckmaster 在社交平台 Mastodon 披露，OpenAI 近日主動聯絡他，談及解開 Navier-Stokes 一事。他先問對方，模型有沒有讀取他們在 Codex 的紀錄，得到的答覆是模型不會查閱用戶資料；他再問模型有沒有用那些紀錄訓練過，就沒有收到答案。
OpenAI 的 Sébastien Bubeck 堅持，公司「在他們公開發表之前，沒有看過他們任何工作」，並以兩邊最終寫出的證明有分別，作為各自獨立完成的佐證。OpenAI 亦表明，該內部模型的訓練由 8 月 28 日開始。不過該公司同時承認一句：「我們無法排除，由他們使用我們產品而來、已去除身分識別的資料，曾經幫助改善我們的模型。」
Buckmaster 其後在 Mastodon 回應，在他看來，這句話等同承認訓練材料涵蓋了他與 Levent Alpöge 取得結果之後的那段日子。
時間線
日期 | 事件 |
|---|---|
8 月 28 日 | OpenAI 開始訓練該內部模型 |
9 月 1 日 | OpenAI 聽到 Anthropic 有進展的傳聞，遂啟動代理程式群組 |
9 月 3 日 | Buckmaster 聯絡 OpenAI，說明那是他的個人研究，並非 Anthropic 的項目 |
9 月 5 日 | 代理程式得出 Navier-Stokes 的解法 |
9 月 6 日 | OpenAI 向外部數學家通報 |
9 月 7 日 | Buckmaster 公開質疑訓練材料的來源 |
9 月 8 日 | OpenAI 公布研究 |
9 月 9 日 | Hoskinson 在直播中警告學者與創業者 |
開口警告的人，手上有一件要賣的東西
Hoskinson 提出的做法是私密的 AI 環境：研究人員照樣用得上強大的模型，但機密材料不必送到外部供應商手上。他在片段中說「Midnight 解決了這件事，因為它建立的私密環境，令對方讀不到你的紀錄」。Midnight 是一條主打私隱的區塊鏈，亦是 Cardano 的夥伴鏈，而 Hoskinson 本人正是 Cardano 的創辦人。
換言之，這番警告同時是一次推介。Buckmaster 那一邊的爭議暫時各執一詞，OpenAI 否認看過對方未公開的工作，卻沒有正面回答訓練的問題，亦未有第三方裁決。研究人員把未發表的工作放進哪一種系統，目前仍然只能靠供應商自己的說法。
No comments yet
提交留言即表示你已閱讀我們的私隱政策。