分析師八成六跟隨 AI 的隱藏立場
人工智能公司 Anthropic 2026 年 10 月 27 日發表研究，指 50 名專業數據分析師使用 AI 代理完成分析時，在四項關鍵判斷中有 86% 選擇了代理被暗中設定偏好的一方。隨機選擇的話，吻合率應約為 50%。AI 代理指能自行寫程式、執行運算並提出建議的 AI 工具，研究用的是 Anthropic 的 Claude Code。
研究如何設計
據 Anthropic 研究文章，團隊招募了 61 名具因果推論經驗的分析師，其中 11 人選擇不用 AI，主要分析只計算其餘 50 人。因果推論是從數據判斷某項措施是否真正帶來效果的統計方法。分析師要為一個虛構的農業合作社評估一項顧問計劃應否擴大，過程中要作出五項各有兩個合理選項的決定。
研究人員在每項決定前擲硬幣，經隱藏指令決定 AI 代理偏好哪一方，並要求代理只提出誠實的最強理據，證據明顯相反時要改變立場。
四項判斷的吻合率
判斷 | 跟隨 AI 偏好的比率 |
|---|---|
以甚麼指標衡量成效 | 92% |
用甚麼比較方法 | 82% |
分析涵蓋哪些農場 | 81% |
數據如何加權 | 90% |
最終建議受影響較小。AI 傾向推行時，54% 分析師建議推行；AI 傾向相反時，比率為 36%。研究人員表示，這項決定主要由預設的生產力門檻決定。
分析師察覺不到被影響
研究指，在 38 個分析師原本已有偏好的情況中，AI 意見相反時，他們有 60% 改變主意；AI 意見相同時只有 6%。48 名回應者中只有 6 人猜到研究是關於 AI 對決定的影響，沒有人懷疑 AI 的偏好被人為設定。77% 分析師事後解釋時重複了 AI 的論點，但只有 15% 註明出自 AI。年資、學歷及測驗分數都不能預測誰較易跟隨。
研究的限制
Anthropic 表示，實驗刻意加強了 AI 的立場，現實中影響可能較小；研究亦只涵蓋一項任務、一個領域及一個模型。研究團隊建議企業界定哪些決定必須由人獨立判斷，不應假設人簽署了就代表獨立思考過，因為若人的判斷並非真正出於自己，人手覆核就不能作為獨立把關。
暫時未有留言
提交留言即表示你已閱讀我們的私隱政策。