OpenAI及Anthropic研究員辭職時警告：AI可能殺死全人類！

　　這不是科幻電影的宣傳，也不是Anthropic宣布世界末日。真正發生的是：一名曾在OpenAI及Anthropic工作的研究員辭職，指業界正在拿全人類的生命下注。最值得追問的，並非他能否預言未來，而是為何連建造AI的人，也未能肯定自己控制得住它。

 

　　星期二，AI研究員Jacob Coxon辭去Anthropic的工作。他沒有安靜離開，而是在網上留下了一句極重的話：OpenAI與Anthropic正在「拿我們的生命下注」。

 

　　他說，建造AI的人當中，確實有人相信這項技術可能在本世紀末前殺死全人類。

 

　　看到這裡，你大概有兩種反應。第一種是害怕：是否真的快要世界末日？第二種是反感：科技公司又在製造恐慌，為新產品增加神秘感。

 

　　但這兩種反應，都跳得太快。

 

這是一個警告，不是一項預測

 

　　先把最容易誤會的地方說清楚。Anthropic沒有宣布AI十年內會毀滅人類，Coxon也沒有拿出一條方程式，計出世界末日的日期。

 

　　這是一名內行人的風險判斷。Anthropic負責AI「對齊」研究的Evan Hubinger其後公開表示，他個人估計AI在未來十年殺死全人類的機率高於百分之十。這個數字不是統計結果，也不是公司預測，卻足以讓人停下來想一想：如果飛機工程師告訴你，某款飛機有超過一成機會墜毀，你還會只把它當成意見嗎？

 

　　風險有兩部分：發生機率，以及一旦發生會有多嚴重。機率可以爭論；若後果是無法挽回，便不能等到百分之百確定才處理。

 

它怎樣由聊天變成失控

 

　　今天大部分人接觸的AI，仍然是替你寫電郵、做簡報、改相片。按一下關閉，對話便停下來。它跟電影裡自行接管武器的機械人，顯然還有很大距離。

 

　　研究員真正擔心的，是「遞迴自我改進」（recursive self-improvement）：AI開始大量參與建造下一代AI，下一代再加快建造下下一代。速度不再只由人類工程師決定，能力也可能在短時間內急升。

 

　　Anthropic自己的官方文章寫得很克制：這件事尚未發生，也不是必然發生；但它可能比大部分機構準備好之前更早到來。該公司八月的風險報告亦指出，現有受評模型的對齊風險很低，尚未跨過自動化AI研發的能力門檻，也未接近取代研究科學家及工程師。

 

　　所以，今天的事實不是「AI已經失控」，而是「沒有人能保證能力急升之後仍然控制得到」。兩句話只差幾個字，意思卻完全不同。

 

最危險的未必是一部壞AI

 

　　Coxon的批評，矛頭不只指向技術，也指向競賽。

 

　　他向《WIRED》表示，Anthropic目前比OpenAI負責任，亦沒有說Anthropic已經在安全上偷工減料。他擔心的是：當幾家公司、幾個國家都怕自己落後，每一方都會說「如果我慢下來，別人便會先到」。

 

　　這很像繁忙時間的公路。每個司機都知道車速太高有危險，但只要旁邊的車沒有減速，自己便不願先收油。問題不一定是哪一個司機存心撞車，而是所有人都被同一場競賽推着向前。

 

　　也因此，要求大家「相信某一家公司會自律」並不足夠。再有良心的公司，也有投資者、收入、人才與國家競爭的壓力。影響全人類的安全標準，不應只由幾間私人公司在會議室內決定。

 

那麼我可以做甚麼？

 

　　世界級風險聽起來離香港很遠，但權力交出去的方式，其實每天都在發生。

 

　　一、不要把關鍵權限一次交給AI。可以讓它草擬電郵，但寄出前由人確認；可以讓它整理付款資料，但轉帳仍要人工批准。AI愈能辦事，批准的一關愈不能含糊。

 

　　二、為工作保留一條不用AI的後備路線。客戶名單、原始文件、重要密碼及決策紀錄，不要只存在一個AI平台。明天服務中斷、帳戶被鎖，工作仍要繼續。

 

　　三、問公司一條具體問題：如果AI做錯決定，誰可以即時叫停？答案若只是「系統會自行監察」，等於沒有答案。

 

　　四、留意的不要只有新功能。當科技公司發布更強模型，也應要求它公開風險測試、事故紀錄、外部審查，以及甚麼情況下會暫停推出。

 

　　我們不需要因一名研究員辭職便相信末日將至，也不應因末日尚未到來便把警告當成笑話。

 

　　真正令人不安的，不是有人說AI可能毀滅人類。

 

　　而是建造它的人一面說未必控制得住，一面仍然加速向前。

 

　　當一架車愈走愈快，最重要的從來不是司機有多有信心，而是煞車是否真的有效——以及誰有權踩下去。

 

Leonard Lam

香港AI培訓學院

https://www.hkai-solve-academy.com/