四個團體要求凍結 11 月 12 日後的模型
美國四個非牟利團體周四(11 月 12 日)在三藩市高等法院入稟,控告 Anthropic、Google、Meta、OpenAI 及 SpaceX 旗下 AI 部門,要求法院頒令禁止各公司開發比 11 月 12 日當天更強的模型,並禁止用 AI 自行研發更強的 AI。
原告包括 Public Citizen、Irreplaceable Education Fund、Heat Initiative 及 The Alliance for Secure AI,代表律師包括前新澤西州總檢察長 Matthew Platkin。

指公司無法防止「災難性傷害」
起訴書指,各公司無法防止旗下 AI 造成「災難性傷害」,並列舉 AI 被用於網絡攻擊等事例,以及各公司高層自己承認的風險。起訴書引述 Anthropic 行政總裁 Dario Amodei 的說法:AI 發展結果「非常非常壞」的機會約有四分之一。
「沒有其他行業可以把自家開發不安全產品,更遑論可能令我們全部人喪命的產品,當作無可避免。」起訴書寫道。
原告指各公司違反加州《不正當競爭法》,理由是危害公眾健康,以及干擾電腦系統等財產的使用。他們要求法院立即頒發禁制令,暫停下一代模型,直至各公司證明技術受人類控制才可恢復。
原告:凍結要靠政府巡查
原告之一 Irreplaceable Education Fund 創辦人 Phil Aroneanu 向半島電視台表示,真正的凍結要列明哪些工作須停止、如何核實,以及違規有何後果,「這需要政府巡查,並有權叫停違禁工作,不只是禁止公開發布模型」。他又提議監察大型運算設施,協助執行凍結。
兩個月前被告「聯手放慢」
其中四間公司兩個月前才因相反理由被告。9 月 18 日,四名付費訂閱 ChatGPT、Claude、Grok 及 Gemini 的用戶在加州北區聯邦法院提出集體訴訟,指 Anthropic、OpenAI、SpaceXAI 及 Google 協議一同放慢 AI 進步,違反《謝爾曼反壟斷法》,令付費用戶得到的服務價值下降,要求三倍賠償及禁制令。該案起因是 Amodei 呼籲全行放慢開發,其他公司高層公開表態支持。法院至今未裁定有任何協議存在。
同一批公司,一邊被付費用戶指放慢 AI 損害消費者,一邊被非牟利團體指 AI 發展太快危害公眾。




暫時未有留言
提交留言即表示你已閱讀我們的私隱政策。