AI很方便，但要理性使用。（AI圖片）

 

　　古語有云「盡信書，則不如無書」，現在是「盡信AI，不如用吓個腦」。內媒最近報道了一件關於AI的案件，大癲，很多人嘲笑，但可能不少人都曾經有一刻像事主一樣依賴、盲信AI。

 

　　浙江的史先生今年4月喪母，他認為家人找風水先生算出來的「下葬吉日」--4月20日不妥，走去問「豆包」意見。

 

　　「豆包」即是字節跳動旗下的AI智能助手。當時「豆包」給了史先生很好的情緒價值，支持了史先生關於「20日是母親過世的第4天，『雙數』不符合當地習俗」的見解，作出了「按照當地習俗和黃曆吉日，最穩妥的推薦是4月19日（過世第3天）」的回答。

 

　　史先生急忙將AI的「指示」告知長輩和其他親戚，成功說服眾人將下葬日期改至4月19日。葬禮過後不久，有親戚發生交通意外嚴重受傷。「安葬日子不對，破壞了風水」的怨言在親戚之間傳出，家人也責怪史先生「改了日子」。

 

AI教事主告自己，案件已開庭但未有裁決

 

　　很黑色幽默的是，生氣的史先生叫「豆包」教他如何循法律途徑追究「改日子」的責任。「豆包」就教史先生起訴它背後的公司--春田知韻科技有限公司，即北京抖音信息服務有限公司全資子公司，還幫史先生寫好起訴狀。

 

　　案件已經在9月3日於浙江嘉善縣人民法院開庭審理，案由是「網絡侵權責任糾紛」，目前未有裁決。

 

AI前後兩個答案，事主都信

 

　　史先生接受內媒專訪時提到，自己是「豆包」的忠實用戶，基本上每日都用「豆包」，還會讓「豆包」幫他整理合同、文件。更可笑的是，史先生自爆，在今次事件中，第一次問「豆包」時得出了「4月19日」的結果，但隔一段時間再問「幾點下葬合適」的問題，「豆包」除了回答「7點到9點」外，還強調「4月19日不是黃道吉日」。

 

　　史先生也信了，也慌了，繼續不斷問「豆包」到底「19號是不是黃道吉日？」結果「豆包」都回答：「19日不是下葬的黃道吉日。」

 

　　由於下葬日期早已通知了親戚朋友，來不及改期，史先生最後還是按「豆包」最初的指示，或者說他自己堅持的「正確日期」，舉辦了葬禮。

 

「衰咗」肯定是AI的責任？

 

　　史先生認為，這件事上，「豆包」肯定有責任，是「豆包」推薦了一個忌安葬的日期，令他判斷失誤，進而導致安葬時機不對，影響了風水，也令家庭關係變得緊張。

 

　　「豆包」方面就強調，用戶協議中已列明「其軟件及服務生成的內容僅供參考」，用戶根據輸出內容所作出的任何判斷、行為，所帶來的後果和責任均由用戶自行承擔。　

 

　　作為「旁觀者」，有微博網民嘲笑，「被豆包奪舍大腦了」、「生活常識淡薄，維權意識極強」。還有網民提到自己的經歷：「剛剛我爸釣了一條魚回來準備養，我讓它（豆包）識別甚麼魚好買魚糧，結果一會說鯉魚一會說草魚一會說鯽魚，還不如去我自己去小紅薯上發帖問的答案準確。」有網民甚至透露，「我有時候問它問題，為了驗證真假，我都會回一句「～瞎說！」或者「～騙人！」然後它就立馬改口了」。

 

　　亦有網民批評，「信豆包的真的腦子有包，豆包只能是用來在你想偷懶的時候讓它幫你寫寫文檔」。也有網民建議「平台應提升內容準確性」，又認為「免責聲明不能成為萬能擋箭牌」、「AI越普及越需要明確責任邊界」，並稱：「反過來想，以後人類和AI關係越來越緊密，打官司是免不的了，這都得經驗、案例積累。」

 

　　還有網民揶揄：「我覺得史先生和當地的風水先生都應該感謝豆包，理由如下：第一，豆包的出現為這位先生的聰(yu)明(chun)找到了最好的借口；第二，如果不是豆包背了這個鍋，被告的可能是當地的某個風水先生。」

 

警惕「AI幻覺」

 

　　有網民解說，對話式AI助理本來就是「接著話往下猜」，它沒有「我不知道」的硬剎車，問題越沒有標準答案，它越會用最流暢的語氣補出一個看起來最像答案的東西。「黃道吉日」恰恰是雙重無標準：黃曆說法本身各派打架，AI模型沒有對錯可校驗，你問它，它當然敢答；前後矛盾？它前後所交出的答案都不是因為知道，只是「生成」。

 

　　這就是「AI幻覺」。AI不像人一樣會憑經驗、邏輯、現實情況去思考、判斷，只會從被灌輸的資料中撈取答案。若資料庫有誤、過時、缺失，甚至被「投毒」，AI還是會按著你的關鍵字拼湊出一本正經的回答，只要你不去查證，都不會知道它在胡說八道。

 

　　誠如今年1月同類「告AI」案件的辦理法院--杭州互聯網法院所說，現階段AI只是生活和工作中的「文本輔助生成器」和「信息查詢工具」，尚不足以充當可靠的「知識權威」，更不能作為替代個人判斷的「決策者」，「在面對生成式人工智能高度流暢、自然的語言應答時，應保持必要的警覺與理性認知」。

 

　　最近AI巨頭的高層和研究員紛紛警示「AI滅絕人類」、「AI危及全人類文明」，這些AI安全風險相關的問題自有大人物去解決。我們這些用家必須警覺的是「以正確態度看待AI」，認清AI的能力和邊界，避免將AI當作「全能」、「權威」。

 

撰文：經濟通中國組記者林小莉