六間 AI 公司領袖與特朗普簽署《白宮超級智能協議》
美國總統特朗普香港時間周三（30 日）凌晨在白宮與科技界領袖午宴後，公布一份由六間 AI 公司領袖聯署的安全協議，名為《白宮超級智能協議：前沿責任聯合承諾》。簽署人包括 Google 行政總裁 Sundar Pichai、Anthropic 行政總裁 Dario Amodei、Meta 行政總裁 Mark Zuckerberg、OpenAI 總裁 Greg Brockman、xAI 行政總裁 Elon Musk，以及 Nvidia 行政總裁 Jensen Huang。
代表 OpenAI 簽名的是總裁 Greg Brockman，而不是行政總裁 Sam Altman。協議開宗明義寫道，每間公司都有責任以安全、能建立客戶和公眾信任的方式開發自家技術。
協議要求訓練前沿模型的公司設四層監控及審計
協議要求所有訓練及部署前沿模型的公司，在現有預防措施以外，加設四層監控及審計：
層級 | 協議要求 |
|---|---|
一、內部監控 | 在訓練及部署期間監察模型的能力與對齊，範圍包括網絡安全、生物安全及化學威脅，並確保模型不會以非預期方式入侵或存取技術系統 |
二、內部團隊 | 由專責團隊確保所有監控、監察及偵測如期運作，問題得到修正 |
三、外部審計 | 與獨立的外部審計或評估機構合作，評估各項監控是否如期運作 |
四、董事會 | 指定董事會轄下獨立委員會監督，並接收內部團隊及外部審計的報告 |
協議又寫明，參與公司會定期開會，制訂提升系統安全的標準及最佳做法。至於日後是否立法，文件只表示「隨時間過去，或許合理」把這些步驟寫成法例或規例，並強調不論是否被要求，各公司都承諾執行。
特朗普：協議「在道德上有約束力」
協議全屬自願，沒有法律上的執行機制。特朗普在白宮外被問及協議是否具約束力時表示，「我認為它在道德上有約束力」。他又形容協議「某程度上幾乎像一部憲法」，並指「我看到很大程度的自我監管，他們明白必須自我監管」。
特朗普同時重申不會為 AI 設限，表示「一項比工業革命更大的技術，我絕不會扼殺它的增長」。Nvidia 行政總裁 Jensen Huang 在場表示，「創新、技術與安全之間沒有衝突」。據 Nextgov 報道，Elon Musk 指各方同意的安排包括聯合監察及董事會特別委員會。
有出席午宴但沒有簽名：Microsoft 及 Amazon
據 PBS 及 CBS 報道，Microsoft 行政總裁 Satya Nadella 亦有出席午宴，PBS 報道指 Amazon 創辦人 Jeff Bezos 同樣在場，副總統雲斯及眾議院議長約翰遜亦有出席。不過，協議簽名頁上只有六間公司的代表，Microsoft 及 Amazon 均不在其中。
批評者：自願標準不足夠
民主黨參議員華納批評自願標準不足，要求訂立強制測試規則。他表示，「開發最強 AI 系統的公司正警告我們，技術發展比我們的保障措施更快」。PBS 報道指，是次會議在多宗 AI 代理失控事件之後舉行。
同日行政命令：聯邦文件改稱「超級智能」
據 Nextgov 報道，白宮同日頒布行政命令，指示聯邦部門在官方文件、通訊、網站及報告中，把人工智能改稱「超級智能」（super intelligence，簡稱 SI），並要求總統科技事務助理在 60 日內提交立法建議，為「超級智能」訂下定義。
No comments yet
提交留言即表示你已閱讀我們的私隱政策。