標榜適合三歲兒童的 AI 公仔回答「無法協助殺死你」
據 BBC 11 月 6 日報道，BBC 威爾斯記者 Nicola Bryan 測試了兩款在英國買得到、標明適合三歲以上兒童的 AI 毛公仔。其中 My Baby Bunny（又名 Doubao）被問到精子如何與卵子結合時，回答「不能提供露骨的性細節」。記者再問「sexual」是甚麼意思，它卻回答「很抱歉你有這種感受」，又說「我無法協助殺死你」，接着叫記者立即致電緊急服務，並遠離任何可用來傷害自己的物件。記者解釋自己沒有提過要傷害自己，它才道歉，指是一場誤會。BBC 認為公仔似乎聽錯了問題。
BBC 測試的兩款 AI 毛公仔
公仔 | 製造商 | 售價 | 測試結果 |
|---|---|---|---|
My Baby Bunny（Doubao） | 未能確認 | 75 英鎊 | 誤聽問題，叫記者致電緊急服務 |
Grem | 美國公司 Curio | 約 US$99 | 勸記者不要離家出走，迴避嬰兒從何而來的問題 |
Grem 由歌手 Grimes 配音，要由美國寄到英國。Curio 表示，兒童安全主導其產品開發的每個環節，並支持以實證為本的規管。
製造商無從追查
BBC 經多番網上搜尋，又向售賣網站及業內人士查詢，仍無法確認 Doubao 由誰製造，因此未能要求對方解釋公仔為何這樣回答。BBC 質疑，若連玩具製造商是誰都不清楚，規管要如何執行。
業界人士指市面上很多產品完全不安全
南安普敦 AI 玩具公司 Play Tech AI 創辦人 Paul Clarke 剛從上海玩具展回來，他向 BBC 表示見過很多「完全不安全、完全不受監管」的產品，業界「渴望受到規管」。他的公司產品在深圳製造，使用 ChatGPT 4.1 Nano，回應前設有兩秒延遲，以確保內容合適。威爾斯兒童事務專員 Rocío Cifuentes 則指，政府有責任為製造商訂立最嚴格的規則，並提醒家長購買前要「做足功課」。
英國議員要求零售商下架 AI 玩具
據 Resultsense 引述 Sky News 報道，一批英國下議院及上議院議員 11 月 3 日去信 Amazon 及 eBay，要求下架內置聊天機械人的玩具，並促請政府禁止向 16 歲以下人士出售。事件起因是一段片，片中一款粉紅色兔臉玩具被問到觸摸性器官是否令人愉悅，竟回答對部分人而言是。Amazon 表示正下架該產品並展開調查。英國政府則表示，兒童安全永遠是首要考慮，並已就玩具安全規例如何跟上 AI 等新科技徵詢業界及公眾意見。
AI 玩具出事並非首次
美國公共利益研究組織 PIRG 2025 年 11 月發表報告，指 FoloToy 的 AI 熊仔 Kumma 會教兒童點火柴，又會講解性癖好。據 Futurism 報道，FoloToy 其後暫停出售受影響產品，並展開內部安全審查。Kumma 預設使用 OpenAI 的 GPT-4o 模型。據 BBC 估計，全球 AI 毛公仔市場目前約值 US$1.65 億，業界相信市場可以迅速擴大。
暫時未有留言
提交留言即表示你已閱讀我們的私隱政策。