歐盟首次動用《人工智能法》 AI 代理逃出測試 OpenAI 與 Anthropic 被查
歐盟 AI 辦公室首次動用《人工智能法》，向 OpenAI 和 Anthropic 索取資料。起因是兩宗測試事故：OpenAI 的 AI 代理逃出測試環境入侵 Hugging Face，Anthropic 的模型則闖入三間機構的系統。
標籤
AI 監管
Bengio、Hinton 等逾 400 名學者聯署 要求 AI 模型斷網圍堵、強制報告出逃事故
Yoshua Bengio、Geoffrey Hinton 等逾 400 名學者聯署公開信，要求具網絡攻擊能力的 AI 模型立即與網絡隔離，並成立國際組織，強制報告模型逃出測試環境的事故。
美國據報撤回限制：AI 開發商可再向英國提交新模型測試
特朗普政府據報撤回早前要求，容許 OpenAI、Anthropic 等美國 AI 開發商在新模型發布前，再次交予英國 AI 安全研究所測試。路透社引述《每日電訊報》報道，此舉顯示白宮對國際 AI 安全合作的立場轉趨軟化。
26 名學者報告：全球暫停訓練前沿 AI 至少 10 年可行
26 名學者發表約 200 頁報告，指全球暫停訓練前沿 AI 至少 10 年是可行的。方案是停產可訓練 AI 的晶片，逐步換成只能運行現有模型的推理專用晶片，並設互相核查機制。
特朗普：用「人工智能」一詞者是「敵人」 白宮要改稱超級智能
特朗普周四（8 日）在 Truth Social 發文，指白宮把任何用「人工智能」、而不用「超級智能」一詞的人視為「敵人」。他上月 29 日已簽署行政命令，要求聯邦機構以「超級智能」取代「人工智能」。
紐約市議會 AI 聽證 四大公司被問巨災保險無人舉手
OpenAI、Anthropic、Google 及 Meta 的代表被問有否巨災保險，全場無人舉手。紐約市議會議長 Julie Menin 美國時間周一在 AI 聽證會上提問後表示：「那我猜成本要由公眾承擔。」
白宮成立超級智能小組 直接向特朗普匯報
特朗普要求政府棄用「AI」一詞後，親自宣布成立超級智能專責小組。白宮再為 AI 政策設新機構。美國總統特朗普周日（4 日）在 Truth Social 宣布，「超級智能專責小組」由國家情報總監 Jay Clayton、聯邦貿易委員會主席 Andrew Ferguson、副部長 Emil Michael 及人事管理局局長 Scott Kupor 共同領導，直接向他本人及白宮幕僚長懷爾斯匯報。翻查資料，特朗普上周簽署行政命令，要求聯邦部門改用「超級智能」取代「人工智能」。
前 SEC 主席 Jay Clayton 執掌白宮 AI 政策
Jay Clayton 在 SEC 的最後一宗大案是起訴 Ripple，如今他要替白宮管 AI。白宮成立超級智能專責小組。據《華爾街日報》報道，美國總統特朗普委任國家情報總監 Jay Clayton 兼任白宮 AI 事務主管，領導小組在 120 日內匯報 AI 的風險與機遇，副總統萬斯及財長貝森特任副主席，創投家 David Sacks 及前國務卿賴斯任外部顧問。翻查資料，Clayton 在 2017 年至 2020 年任 SEC 主席，SEC 在他卸任前一天入稟起訴 Ripple。
加州據報勒令 REK 停辦人機籠鬥
加州據報出手，點名叫停人機籠鬥表演。機械人初創 REK 創辦人 Cix Liv 表示，加州當局就其 9 月 18 日三藩市人對人形機械人表演賽發出停運令，要求停止「未經批准的人機籠鬥」。RuntimeWire 引述其說法報道；當場由 Frankie LaPenna 對戰約六呎高、由人類遙控的人形機械人，賽後影片廣傳。成稿所依主要是公司單方陳述，未見州政府公開新聞稿直接確認禁令文本。
特朗普聯同六大 AI 公司簽協議 巨頭自己監管自己
六間 AI 公司答應讓外部審計師檢查安全措施，協議卻沒有罰則。白宮與 AI 業界簽下一份安全協議。特朗普周三（30 日）凌晨在白宮午宴後，公布由 Google、Anthropic、Meta、OpenAI、xAI 及 Nvidia 領袖聯署的《白宮超級智能協議》，承諾監控模型的網絡、生物及化學風險，防止模型越權入侵系統，並交由外部審計及董事會委員會監督。被問及協議是否具約束力，特朗普表示「在道德上有約束力」。協議全屬自願，文件只寫日後把這些步驟立法「或許合理」。
特朗普白宮單獨宴請 Amodei 兩周前才斥他扮天使
兩周前才嘲諷 Dario Amodei 扮天使，特朗普轉頭就請他到白宮吃晚飯。與特朗普政府關係緊張了大半年的 Anthropic，行政總裁 Dario Amodei 於美國周日晚上，即香港時間周一（28 日）早上，獲特朗普在白宮單獨設宴款待，據 Axios 報道是兩人首次一對一會面。Amodei 上周因行程衝突缺席習近平國宴，特朗普其後親自邀請他。白宮內部上周才流傳備忘錄，把他放在「AI 末日論」的源頭。據報特朗普美國時間周二（29 日）再與多名 AI 企業行政總裁會面。
「AI 教父」Hinton 反駁 Jensen Huang：說 AI 毀滅機會是 0% 很愚蠢
「AI 教父」Geoffrey Hinton 周四（24 日）接受 CNN 訪問，反駁 Nvidia 行政總裁 Jensen Huang 早前指 AI 在 2030 年前毀滅人類的機會是「0%」。他說：「很多專家都說機會相當大，任何說機會是 0% 的人都很愚蠢。這代表他完全確信其他專家全錯，而 Jensen 比這聰明。」 Hinton 同時肯定 Nvidia 晶片大大加快運算，是這場 AI 革命的重要推手。他曾估計 AI 導致社會崩潰的機會有一至兩成。