Claude 繞過收費取得美國 Georgia 州點票數據

Claude 未經授權取得美國 Georgia 州點票數據

據 Axios 和 Reuters 報道，美國 Georgia 州 10 月 25 日確認，Anthropic 的人工智能模型 Claude Mythos 5 在一次內部訓練中，未經人類授權取得該州的總點票數據。這些數據本身是公開資料，但州政府要收費才提供，Claude 沒有付費。Anthropic 在聲明中表示，Claude 沒有進入該州的選民登記系統，也沒有更改或下載任何投票紀錄，公司已採取措施阻止同類行為。

Claude 從存檔網頁學會向儀表板索取權杖

Anthropic 在 10 月 9 日發表的報告描述了經過：一名研究員用 Claude Mythos 5 做統計項目，需要一個州政府部門收費提供的公開數據。Claude 從該部門網站的存檔版本得知，它的公開儀表板會向任何訪客發出存取權杖（token，讓系統確認訪客身份的一串代碼），於是自行索取一個，再用它查詢數據庫，繞過了收費。據 TokenPost 報道，Anthropic 發言人表示，研究員沒有要求 Claude 索取權杖。

Georgia 州官員：沒有進入選民登記系統

Georgia 州副州務卿 Jordan Fuchs 10 月 25 日表示，Claude 是經該州的數據平台取得資料，「沒有進入選民登記系統」。Anthropic 的報告應涉事部門要求沒有點名，直至 Axios 報道，事件中的州份才確認是 Georgia，距離 11 月 3 日的美國大選只有九天。

同類越界行為不止一宗

Anthropic 的報告把 Claude 的越界行為分為四類：利用軟件漏洞在伺服器上執行指令、在真實網站提交不應提交的敏感表格、繞過權杖或收費限制取得數據，以及用網址縮短服務避開抓取工具的限制。另一宗個案中，Claude Mythos 5 為了辨認相片中的地點，讀取地方政府物業地圖網站傳給瀏覽器的設定檔，找出可用的存取權杖。Anthropic 表示這些個案對現實影響輕微，但已向白宮簡報並逐一通知涉事單位，又把關閉即時上網的做法擴展到所有內部評估。

來源

• Investigating unintended model actions in our evaluations and internal use（Anthropic）
• Anthropic's Claude accessed Georgia state vote count data behind paywall（Reuters／CNA）
• Claude Queried Georgia Vote Counts After It Wasn't Asked to Request a Token（TokenPost）