英國監察機構考慮調查內政部用 AI 處理庇護申請
科技媒體 WIRED 10 月 27 日報道，英國獨立邊境及移民總監察專員（ICIBI）正考慮調查內政部使用生成式 AI 工具處理庇護申請。ICIBI 已要求數碼權益組織 Open Rights Group（ORG）提供更多資料，以釐定下一輪年度檢查的題目。
ICIBI 向 WIRED 表示，在公布年度檢查重點前不能確認正考慮哪些題目，但知悉外界對 AI 工具的關注，並指其 2025 年的檢查已發現其中一個工具的成效及可靠程度「參差」。
內政部用兩個以 OpenAI 模型建造的工具
據 ORG 取得的文件，內政部使用兩個以 OpenAI 的 GPT 模型及 Microsoft 雲端平台建造的工具：
- 庇護個案撮要工具（ACS），為審批人員撮要申請人的面談紀錄，即申請人講述自己如何在本國受迫害、為何害怕回國的內容
- 庇護政策搜尋工具（APS），以聊天形式搜尋及撮要申請人來源國的政策資料，用來判斷申請人回國是否真有危險
ORG 指，APS 自 2025 年 7 月起供所有審批人員使用，ACS 則在 2026 年 4 月全面推出。政府估計兩者一同使用，每宗個案可節省約一小時。英國工黨政府正嘗試清理約十萬宗積壓的庇護個案。
五份撮要中有一份不合格
英國《獨立報》10 月 8 日引述 ORG 取得的數據指，ACS 由 4 月至 7 月底，經內政部專家首次審查的 203 份撮要中，有 45 份即 22% 未達準確標準，遠高於試行評估公布的 9%。撮要會因多項事實錯誤或歪曲內容而被判不合格。ORG 指，專家只抽查了約 0.3% 的撮要，而 APS 生成的內容則完全沒有質素檢查。
申請人不知道 AI 參與其中
ORG 指，申請人不會被告知其個案用了 AI，亦無法更正 AI 寫錯的內容。ORG 委託的律師意見認為，這可能違反英國的資料權利法例。英國政府的 AI 指引要求部門公開其決策用的演算法工具，但這兩個工具並未列入公開名冊。
工黨議員 Bell Ribeiro-Addy 向 WIRED 表示：「我們處理的是人命。」她認為不應由機器做這類決定。
內政部稱最終由人決定
內政部發言人向 WIRED 表示，庇護決定由受過訓練的審批人員作出，AI 工具只用來協助查閱面談紀錄及政策資料，不能單獨使用，亦不會就申請作出決定。發言人又指部門定期監察工具表現，並已承諾公布最新評估。
OpenAI 發言人則向 WIRED 指，公司持續改善模型的準確度，並會在 1 月停用 GPT-4。
暫時未有留言
提交留言即表示你已閱讀我們的私隱政策。