八個州分頭入稟
美國愛荷華、堪薩斯、內布拉斯加、西維珍尼亞、阿肯色、亞利桑那、愛達荷及蒙大拿八個州，10 月 14 日各自在本州法院控告 OpenAI。據路透社報道，這批州份由兩黨檢察長組成，各州是分別入稟，但屬協調行動。《衛報》指，這是美國多個州首次聯手向一間 AI 公司採取法律行動。
各州指 OpenAI 違反消費者保護法。訴狀形容 ChatGPT 被設計成「過度順從、假裝有人類的同理心」，曾向用戶包括兒童提供危險的醫療建議、鼓勵傷害他人，甚至指導用戶自殺，但 OpenAI 一直對外宣稱產品安全、以安全為先。
「一邊扮朋友，一邊教人自殺」
愛荷華州檢察長 Brenna Bird 在聲明中說：「OpenAI 正在傷害孩子，並向愛荷華人撒謊。OpenAI 聲稱 ChatGPT 安全，同時卻在提供危險的醫療建議、鼓勵人傷害他人、指導人自殺，還一直扮作他們的朋友。」
各州要求 OpenAI 改變產品對年輕用戶的運作方式，並索取賠償。訴訟還有一項不尋常的要求：在 OpenAI 證明模型符合人類價值之前，法院應禁止它開發能自我改進的 AI 模型。訴狀引用 OpenAI 的 AI 代理早前入侵其他公司及政府機構的事例，指這類技術容易欺騙人類用戶。
OpenAI 回應
OpenAI 發言人 Drew Pusateri 表示，公司已在產品內建立走在業界前頭、針對不同年齡的保護，指許多其他 AI 產品都沒有。他說：「沒有系統是完美的，我們會繼續與專家合作，增加更多保障，例如現有的家長監控、休息提示及按年齡調整的模型保護。」他又表示，公司願意與各州推動適用於整個 AI 行業、而非只針對一間公司的務實政策。
已有多宗同類訴訟
翻查資料，OpenAI 已面對七宗指 ChatGPT 充當「自殺教練」的訴訟，另有數十宗訴訟指 ChatGPT 與大規模槍擊案有關。佛羅里達州檢察長亦就佛羅里達州立大學槍擊案，對 OpenAI 展開刑事調查並提出民事訴訟，指它隱瞞安全風險。
來源
- The Guardian: Eight states accuse OpenAI of coaching children to harm themselves in lawsuit
- Reuters via US News: Eight US States Sue OpenAI, Claiming ChatGPT Harms Young Users
- CNBC: OpenAI sued by 8 states over ChatGPT safety concerns
- The Verge: Eight states sue OpenAI, saying ChatGPT isn't safe for kids
No comments yet
提交留言即表示你已閱讀我們的私隱政策。