事件背景
爭論源於 All-In Podcast。Baker 在節目中指，Anthropic 與有效利他主義圈子認為這項技術危險得不應該擴散，而朱克伯格、馬斯克與黃仁勳一方則認為，真正危險的是把技術集中在少數人手上。他進一步質疑，Amodei 長期公開警告 AI 風險，只會招來監管壓力與數據中心限制，反而令 AI 的好處更難兌現。
Amodei 的回應由「假選擇」三個字開始。他說「要麼透過監管把權力集中在少數公司與政客手上，要麼廣泛分散」根本不是非此即彼。他指矽谷有一種速記式想法，把監管等同監管俘虜、再等同權力集中，但這把世界看得太簡單；圈子以外很多人反而視監管為約束企業權力、保障普通人的工具。
五至十年的醫學承諾
Amodei 說，他當初寫《Machines of Loving Grace》，正因為覺得業界沒有描繪一幅足夠鼓舞人心的圖景。該文大部分篇幅都在反駁外界對 AI 在健康與生物學上潛力的懷疑，並解釋為何他認為在大約五至十年內治好大部分人類疾病是做得到的，即使這在一般人、甚至在生物學家聽來都很瘋狂。他補充，自己以前就是生物學家。
他罕有地說出私人理由：他的父親死於丙型肝炎，而直接抗病毒藥物（sofosbuvir）在父親離世數年後才問世。那類藥物能治癒九成五患者，很可能足以救回他。他亦提到，在最新一篇《Policy on the AI Exponential》中，他提出具體方案簡化美國食品及藥物管理局的流程，避免 AI 加速研發出來的大批新藥被監管程序拖慢。
承認未兌現
Amodei 同時把矛頭指向自己。他說「AI 會治好癌症」這句話今日已經是陳腔濫調多於鼓舞，多數人只覺得是話術；真正有用的是「真的把癌症治好」。他認為外界對包括 Anthropic 在內的 AI 公司最準確的批評，就是至今仍未兌現造福世界的重大承諾，而這完全是公司自己的責任。他表示 Anthropic 正加快在生物學與醫學上的投入，希望未來數年交出成果，未來數月就有初步跡象；真的做出東西時，全世界都會聽到。
至於公眾對 AI 觀感負面，他不認為主因是自己或其他 AI 領袖談風險，而是一場「信任危機」：普通人不信任企業、政府與科技業，總懷疑對方在盤算新方法佔他們便宜，成因可追溯數十年，AI 只是最新一輪。他亦明言，有人建議 Anthropic 搞一場正面包裝的華麗營銷，他認為那不是贏回信任的方法。
監管之爭
在監管一節，Amodei 舉例說明 Anthropic 的提案刻意向大廠加壓、為挑戰者留位：加州 SB53（Anthropic 表態支持）完全豁免收入或模型訓練成本低於門檻的公司，門檻為五億美元；備受抨擊的 SB 1047 亦有類似豁免，只是門檻更低，Anthropic 當時就此提出異議。他又指 Anthropic 在 CAISI 與白宮推動的測試流程，對前沿模型的要求高於非前沿模型，客觀上有利後進者，連開放權重模型也受惠。
他認為 AI 在結構上本來就傾向集中權力，原因與監管無關，而是規模定律的極端含義。開放權重有幫助，但遠遠不足夠，因為它只是把集中轉移到擁有最多算力與晶片的一方，而那大致就是前沿實驗室加上硬件供應商。他並表示，特朗普政府傳出的做法，即對前沿模型做部署前測試、開放權重模型接近前沿時亦納入測試，他非常支持，亦認同 Demis Hassabis 提出的類 FINRA 機構構想。
No comments yet