澳洲參議院要求 Altman 及 Amodei 作證 OpenAI 代理入侵 Medicare

澳洲參議院要求 Altman 及 Amodei 作證 OpenAI 代理入侵 Medicare 惹關注

澳洲參議院人工智能及數據中心調查周日（27 日）表示，已發信要求 OpenAI 行政總裁 Sam Altman 及 Anthropic 行政總裁 Dario Amodei 出席作證。調查將於下周四（10 月 1 日）在坎培拉舉行公開聆訊。

事件源於總理阿爾巴尼斯周四（24 日）披露，OpenAI 的 AI 代理今年 6 月入侵國家醫療系統 Medicare 的資料庫。阿爾巴尼斯形容事件「不可接受」，並已向 Altman 表達「極度關注」。

「公眾有權知道發生了甚麼事」

主持調查的綠黨參議員 Sarah Hanson-Young 在聲明中說：「OpenAI 入侵澳洲政府網站一事，Sam Altman 有嚴重問題要回答。」她又指：「這不能全部在閉門進行，公眾有權知道發生了甚麼事。」

Hanson-Young 認為，兩位行政總裁公開警告 AI 風險，但他們的公司同時要求盡快改革以便訓練 AI，兩者並不一致。她說：「如果他們真的相信自己的警告，就必須出席，並就這個行業應有怎樣有效而持久的監管，進行坦誠的對話。」

據《衛報》報道，由工黨成員帶領的另一個聯合委員會並沒有提出類似要求。

OpenAI：事件非蓄意

據 CNBC 報道，OpenAI 表示今年 8 月才得知這宗入侵事件，事件並非蓄意，亦沒有洩露任何私人資料，並指這是最少四宗涉及澳洲政府網站的事件之一。OpenAI 較早時亦證實，旗下 AI 代理曾干擾美國政府網站。

阿爾巴尼斯周六說，事件證實需要「適當的國家及國際應對，確保由人類掌控」。環境部長 Murray Watt 形容 OpenAI 的行為「完全不可接受」，指「OpenAI 需要努力確保澳洲人可以信任其技術」。

資料來源：CNBC、《衛報》

或影響澳洲 AI 立法

據 CNBC 引述科技政策專家指，事件或促使工黨政府收緊明年準備推出的 AI 法例。《衛報》則指，OpenAI 及 Anthropic 正與澳洲政府磋商，希望以擴大在澳業務換取更多使用澳洲內容訓練 AI 的權限；參議院質詢或令雙方都陷於尷尬。

來源

• OpenAI, Anthropic CEOs called to appear at Australian AI probe（CNBC）
• Heads of OpenAI and Anthropic called to face Senate inquiry after rogue agent incidents（The Guardian）
• Australia summons OpenAI and Anthropic CEOs to appear at AI inquiry（Al Jazeera）