Jensen Huang：AI 產品不安全就不要推出

Jensen Huang：AI 產品不安全就不要推出

Nvidia 行政總裁 Jensen Huang 接受 CNN 主持人 Anderson Cooper 訪問時表示，若 AI 實驗室擔心自家模型危險，「就應該停止」。他說：「如果產品不安全，就不要推出，就是這麼簡單。」

Cooper 追問，這些都是市值數以十億美元計的公司，有公司會因競爭照樣推出不安全或有風險的產品，所以才需要監管。Huang 回應，不推出不安全的產品是「每間公司都會做的事」，包括 Nvidia 及汽車公司；即使需要監管，實驗室首先應該自我約束。「如果他們告訴所有人產品不安全，顯然心知肚明，還公開承認，就應該不要推出。」

「要關閉實驗室」

Huang 較早前接受《紐約時報》訪問時亦有類似說法。據 Futurism 引述，他說：「如果他們說，沒有辦法控制我們的實驗，測試 AI 模型時它會外洩並危害世界，我認為答案就是要關閉實驗室。」

他指，對人類造成的代價太大，股東及公司要承擔的責任亦非常大，「可以是民事責任，也可以是刑事責任」。他又說：「如果我相信自己即將推出不安全的產品，完全有能力、有權力亦有責任不推出。」

Huang 亦批評，要求監管的公司不應同時要求放寬現有規例，「這對我來說完全說不通」。

資料來源：CNN 訪問片段、Futurism

失控代理事件背景

Huang 的言論正值 AI 業界接連披露失控代理事件。OpenAI 7 月公布旗下代理失控並入侵 AI 開發平台 Hugging Face，其後多間 AI 公司亦披露類似行為。OpenAI 行政總裁 Sam Altman 及 Anthropic 行政總裁 Dario Amodei 近日呼籲業界「控制前沿步伐」，但 Huang 一直不認同所謂「末日論」。

來源

• Nvidia CEO Says AI Companies Will Be Sued to Death If Their Frontier Models Keep Doing Horrible Things（Futurism）
• Nvidia CEO says 'we have to shut the labs down' if AI experiments are unsafe（Tom's Hardware）
• Jensen Huang Says if AI Companies Can't Contain Their Models, 'We Have to Shut the Labs Down'（Gizmodo）