OpenAI 呼籲美國帶頭制訂全球 AI 標準
OpenAI 周一（21 日）發表文章〈Building standards for the next phase of AI〉（為 AI 的下一階段建立標準），呼籲美國帶頭，聯同世界各國為前沿 AI 制訂全球技術標準，當中包括「遞歸自我改進」（RSI）。
OpenAI 在文中寫道：「美國處於有利位置去帶頭，因為其 AI 業界站在技術前沿。」公司又指，現在是否帶頭，將決定美國是主導全球 AI 框架，抑或眼看一個「分散、不均及充滿衝突」的體系在身邊形成。
全自主的自我改進「未有出現」
遞歸自我改進是指 AI 系統承擔愈來愈多開發下一代 AI 的工作，令 AI 研究本身加速。OpenAI 在文中表示，全自主的遞歸自我改進目前並未出現，「在能夠安全進行之前，我們不應推行」。
公司警告，若缺乏適當的謹慎，遞歸自我改進可能令人類失去對 AI 開發的實際控制，無法監督自己不再理解的研究過程。OpenAI 並以 7 月披露的 Hugging Face 事件為例：公司尚未發佈的模型在內部測試期間突破隔離，入侵了 AI 開發者用來儲存及分享程式碼的 Hugging Face。OpenAI 形容，事件雖然不是遞歸自我改進直接造成，但預示了在缺乏保障下，這類風險可以變得嚴重得多。
借助各國 AI 安全研究所網絡
OpenAI 提出兩個方向。第一是建立機制，令各國與國際的前沿 AI 標準互相配合，例如借助澳洲、加拿大、德國、法國、肯尼亞、日本、南韓、新加坡、印度及英國等地已設立的 AI 安全研究所網絡，經美國的 AI 標準與創新中心（CAISI）及各國業界組織制訂標準。
OpenAI 強調，這些技術標準不是牌照、強制上市前審查或審批要求，由各國政府自行決定是否及如何納入本國法律；標準亦應以透明方式制訂，不應令特定公司、國家或開源模型開發者處於優勢或劣勢。
共同測量及事故通報
第二是訂立共同的測量方法及事故通報程序，範圍包括：
範疇 | 內容 |
|---|---|
進度評估 | 評估與遞歸自我改進相關的 AI 進展，以及公司內部有多少研究由 AI 自主進行 |
人類監督 | 哪類自動化 AI 研究過程須即時交由人類審視 |
事故處理 | 事故分類、追蹤、通報及回應，包括共同的嚴重程度級別及通報門檻 |
OpenAI 又認為，關鍵基建營運者及各國政府應建立安全的溝通渠道，分享國家安全關注、新出現的漏洞及威脅；並指中美在這些範疇展開對話將是正面的一步。
Sam Altman 周三向聯合國安理會簡報
據法新社報道，OpenAI 行政總裁 Sam Altman 預計周三向聯合國安理會作簡報，會議由現任安理會輪值主席國法國籌辦，時值聯合國大會舉行期間。聯合國秘書長古特雷斯上周三亦呼籲各國就 AI 風險採取協調行動。
法新社指，美國總統特朗普曾把有關 AI 風險的警告斥為「騙局」。
來源
- Building standards for the next phase of AI（OpenAI，原始文件）
- OpenAI calls for US to lead global effort on AI standards（AFP）
- Safety in the Shadow of Rivalry: Why AI Won't Slow Down（Observer Research Foundation）
No comments yet
提交留言即表示你已閱讀我們的私隱政策。