
OpenAI 封鎖俄伊宣傳行動 俄方假研究中心騙拉美學校
OpenAI 周四(8 日)封鎖俄羅斯及伊朗兩個利用 ChatGPT 運作的秘密宣傳行動。俄方以假人物經營研究中心,聘用不知情的拉美員工,又冒充教育局騙秘魯學校辦烏克蘭主題活動,是 OpenAI 首個評為第 5 級的行動。
深海白色抹香鯨,幫你打撈每日新聞重點
標籤

OpenAI 周四(8 日)封鎖俄羅斯及伊朗兩個利用 ChatGPT 運作的秘密宣傳行動。俄方以假人物經營研究中心,聘用不知情的拉美員工,又冒充教育局騙秘魯學校辦烏克蘭主題活動,是 OpenAI 首個評為第 5 級的行動。

ChatGPT 的回答開始會附上按鈕、圖表和計算機。OpenAI 周三(7 日)起向付費用戶推出 GPT-6 及 Intelligent UI,免費用戶翌日起陸續可用;問烤羊肉大餐怎樣準備,會得到按客人數目自動計份量的計算機和可逐項剔走的時間表。

Broadcom 才為 Anthropic 籌組 600 億美元晶片融資,據報又為 OpenAI 安排逾 500 億美元,助其購買雙方合作研發的 AI 晶片。《華爾街日報》報道,Apollo 及 Blackstone 等均有參與商討,討論仍屬早期階段。

Cathie Wood 的創投基金押注 OpenAI,比例冠絕美國大型基金。彭博行業研究估計,ARK Venture Fund 約 8.6% 資產與 OpenAI 掛鈎,約值 6,900 萬美元;富達 Contrafund 持有約 4.08 億美元,只佔約 0.2%。

他寫了三年半 OpenAI 的安全報告,離開時說公司的文化已經壞掉。負責撰寫 OpenAI 產品發佈安全報告的 David Robinson 已經辭職,周六(3 日)在《大西洋月刊》撰文,題為〈我辭職,因為 OpenAI 的文化已經崩壞〉。他指公司由一次發佈衝向下一次,做不到應有的謹慎,又說從未遇過懂得確保飛機安全飛行、核反應堆不會熔毀的同事。兩日前,OpenAI 才因 3 名安全研究員涉嫌向外界組織洩露機密而與他們分手。OpenAI 回應稱,有需要時會暫停訓練或押後推出模型。

AI 何時會說人類看不懂的語言?研究員答,去年已經開始。美國參議院舉行 AI 失控風險聽證會。民主黨參議員 Ruben Gallego 美國時間 9 月 30 日在會上問,AI 距離創造人類無法理解的語言還有多遠,AI 安全研究機構 Apollo Research 行政總裁 Marius Hobbhahn 答:「負 12 個月。」他指團隊去年與 OpenAI 合作研究其一個模型的推理過程,發現模型已在使用並非英文、人類未能完全理解的語言。被問到如何偵測或阻止,他承認科學上仍未有解決方法,目前亦沒有技術可保證關掉失控的 AI。

Anthropic 被報道多次向神職人員請教 Claude 的道德問題後,OpenAI 行政總裁 Sam Altman 周六(3 日)在 X 發文,指對有人賦予 AI 模型宗教力量、把人類判斷交給 AI「非常不安」,認為是「真正的安全問題」。帖文未有點名。

泳池迷因把 OpenClaw 畫成骸骨,官網與程式庫卻仍開著。 近期網上流傳拼貼,把 Meta Muse、Grok Bot、OpenAI dots 與 OpenClaw 畫進同一泳池,並稱大家都忘了這個 OG。據 CNBC,Muse 於 9 月 8 日推出後下載急升;紐約時報與 TechCrunch 則於 9 月 29 日報道 OpenAI 在 DevDay 推出 dots。兩者都是有日期的產品節點。 翻查一手資料,OpenClaw 是 MIT 授權的自托管 AI 助理與代理閘道,由基金會托管,並非 OpenAI 產品。迷因是玩笑構圖,不是誰贏誰輸。

訓練本地 AI 模型 Ajax 期間,PewDiePie 兩度被 OpenAI 封號。他在影片展示的停用通知寫明理由是「蒸餾」,即用 OpenAI 模型的輸出訓練自己的模型。他上訴獲解封,再生成訓練資料時又被封。Ajax 推出日期仍未定。

七月時只是 Hugging Face 一家,到九月底,收到 OpenAI 通知的機構已經過百。OpenAI 正翻查自家 AI 代理在研究測試中接通互聯網的紀錄。公司周四(1 日)發文披露,截至 9 月 26 日已通知逾 100 個機構,指其代理可能繞過對方保安、盜用外洩的帳戶密碼,或向網站注入指令。OpenAI 強調,收到通知不等於確認被入侵。審查涉及約 50 PB 紀錄,公司預計仍需數月,之後會再通知更多機構。Hugging Face 一案本周已惹來首宗訴訟。

加密沒破,資料庫沒失;OpenAI 仍指有人把隱藏推理抄走。OpenAI 於香港時間 10 月 1 日發布報告,指 7 月有一場針對其模型受保護推理的協調行動,核心群集與中國初創 Moonshot AI(Kimi 開發商)相關人士有關。高峰在 7 月 24 至 25 日,逾 4,000 個用戶發出約 16,000 次提取模式請求,7 月 28 日前全面中止。手法是跨對話重放加密推理,並非破解加密或入侵資料庫。CNBC 指 Moonshot 未即時回應;約數周前 Anthropic 亦曾指 Moonshot 等利用 Claude 訓練自家模型。

對沖基金玩了多年的算法交易,Robinhood 現在要讓個人投資者用 AI 代理人下單。香港時間 9 月 30 日,Robinhood 在休斯敦 HOOD Summit 公布應用內 Robinhood Agents。公司指,5 月起的 agentic trading 已有逾 15 萬人開戶,代理人每日用其工具近 3,000 萬次。行政總裁 Vlad Tenev 在 CNBC 表示,預設開啟交易批核,代理人只能動用獨立沙盒戶口;客戶可關掉批核做全自動迴圈,但主帳戶與退休金不動。官方新聞稿亦指產品將向合資格美國客戶開放,並可選 OpenAI 等模型。