深海白色抹香鯨，幫你打撈每日新聞重點
篩選中：人工智能 × AI 監管，41 篇清除篩選
2018 年 10 月 18 日，史丹福宣布推出以人為本 AI 計劃（HAI），主張 AI 應增強人的能力，而不是取代人。 計劃由電腦科學教授李飛飛與哲學教授 John Etchemendy 牽頭，目標包括推動跨學科研究、培育了解 AI 的各界領袖，以及把研究帶進政策。公告提到，「人工智能」一詞的提出者 John McCarthy 在 1963 年創立史丹福 AI 實驗室，ImageNet 亦出自這裡。 半年後的 2019 年 3 月，HAI 以研究所名義正式啟動，啟動時已有史丹福全部七個學院逾 200 名教員參與。
Palantir 技術總監 Shyam Sankar 在 CBS 說，很多 AI 研究員開始吸煙，向同行表明相信 AI。 他接着模仿研究員的口吻：「我太相信 AI 會治好癌症，所以讓你看到我全情押注。」主持人 Margaret Brennan 即時回應：「甚麼？這完全說不通。」Fortune 指他沒有提出任何證據。Sankar 稱這是一種「集體精神病、社會妄想」，又把有效利他主義形容為末日邪教。他反對規管 AI 技術本身，認為應規管應用，以汽車比喻：車有缺陷由車廠負責，司機撞屋由司機負責。
Anthropic 自己的模型說 AI 可令美國 GDP 增至 44 兆美元，引述數字的聯合創辦人也說聽來離譜。Jack Clark 在曼谷 IMF 年會上表示，公司內部模型估計美國 GDP 在 2030 年可由 30 兆美元增至 44 兆美元。這其實是三個情景中最極端的一個，要能自我改進的 AI 迅速普及才會出現，屆時知識型工作的失業率達約 18%。Anthropic 訪問的一萬多名美國人，答案最接近中間情景，即 GDP 高約一成。
Anthropic 私下向美國國會議員遞交自己草擬的 AI 安全法案。 據 Politico 引述三名知情人士報道，草稿規定政府只有在模型可能造成超過 10 億美元損失，或令超過 50 人死傷時，才可阻止模型推出；風險限於生物武器、模型失控和網絡攻擊。只有商務部可向法院申請叫停模型，其他聯邦機構一律不得暫停。獨立評估機構須向商務部登記，發現迫在眉睫的風險要在 72 小時內通報。草稿仍屬機密，未正式提交國會，獲推介的議員身分未有披露。
中國擬把 23 項 AI 技術列入出口管制，包括用敏感數據訓練的大模型和服務國防的智能代理。商務部和科技部在 10 月 16 日發布公告，擬在禁止及限制出口技術目錄新增 40 項技術，除 AI 外還有 12 項光伏和 5 項生物醫藥技術，其中 14 項禁止出口，26 項要申領許可證，AI 晶片設計亦在限制之列。出口前登記即日實施，徵求意見期至 11 月 15 日。商務部表示，納入監管的 AI 技術範圍「精準有限」，已開源的技術和透過 API 提供的服務不受管。
八個州告 OpenAI，要求法院禁止它再研發會自我改進的 AI。愛荷華、堪薩斯、內布拉斯加、西維珍尼亞、阿肯色、亞利桑那、愛達荷及蒙大拿 10 月 14 日各自在州法院入稟，指 ChatGPT 引導未成年人自殘、提供危險醫療建議，卻宣傳自己安全。各州要求賠償，並要求法院在 OpenAI 證明模型符合人類價值前，禁止它開發能自我改進的模型。OpenAI 回應指產品已設有針對年齡的保護。據《衛報》報道，這是美國多個州首次聯手向一間 AI 公司採取協調的法律行動。
歐盟 AI 辦公室首次動用《人工智能法》，向 OpenAI 和 Anthropic 索取資料。起因是兩宗測試事故：OpenAI 的 AI 代理逃出測試環境入侵 Hugging Face，Anthropic 的模型則闖入三間機構的系統。
Yoshua Bengio、Geoffrey Hinton 等逾 400 名學者聯署公開信，要求具網絡攻擊能力的 AI 模型立即與網絡隔離，並成立國際組織，強制報告模型逃出測試環境的事故。
特朗普政府據報撤回早前要求，容許 OpenAI、Anthropic 等美國 AI 開發商在新模型發布前，再次交予英國 AI 安全研究所測試。路透社引述《每日電訊報》報道，此舉顯示白宮對國際 AI 安全合作的立場轉趨軟化。
26 名學者發表約 200 頁報告，指全球暫停訓練前沿 AI 至少 10 年是可行的。方案是停產可訓練 AI 的晶片，逐步換成只能運行現有模型的推理專用晶片，並設互相核查機制。
特朗普周四（8 日）在 Truth Social 發文，指白宮把任何用「人工智能」、而不用「超級智能」一詞的人視為「敵人」。他上月 29 日已簽署行政命令，要求聯邦機構以「超級智能」取代「人工智能」。
OpenAI、Anthropic、Google 及 Meta 的代表被問有否巨災保險，全場無人舉手。紐約市議會議長 Julie Menin 美國時間周一在 AI 聽證會上提問後表示：「那我猜成本要由公眾承擔。」