AI假照片 | 有圖未必有真相？AI生成假圖觸發不實資訊傳播危機，以數碼浮水印作防偽標記是否最佳解決方法？

　　俗語說：「有圖有真相」，但隨著生成式AI愈來愈流行，用戶可以輕鬆地利用AI工具產製以假亂真的圖片後，此說法已開始站不住腳了！為降低假圖片、假消息等不良資訊的傳播風險，Google、OpenAI等科技巨頭已先後替AI生成內容加入數碼浮水印，幫助用戶確認圖片是否為AI產製。數碼浮水印是甚麼呢？它是否真的可以有效地幫助人們辨識圖片真偽？

 

建立內容憑證緩解AI假圖亂象

 

　　2023年3月，網上瘋傳天主教教宗方濟各身穿白色羽絨外套、戴上墨鏡的圖片，讓人誤以為教宗想改變形象，但這其實是網民使用AI製圖工具Midjourney生成的影像，外界稱之為全球首宗大規模AI假消息傳播事件。2024年1月，詐騙集團利用深偽（Deepfake）技術冒充一家跨國企業的財務長，透過視訊會議要求香港員工將錢轉入指定的銀行帳戶，騙取約2億港元（2,600萬美元），這是香港首起深偽詐騙案件。

 

網民Pablo Xavier利用Midjourney產生教宗方濟各身穿白色羽絨外套的照片，一度在社交媒體上瘋傳。（相片來源：Facebook@Guerrero Art）

 

　　為遏制上述亂象，AI科技巨頭與影像產業公司遂著手制定內容憑證標準，藉由數碼浮水印技術，在AI生成作品中加入一些人眼不可見的資訊，惟用戶可以透過特殊工具識別該作品是否由AI產製。這種AI內容識別技術可以分為3大陣營，分別為Google的SynthID技術、C2PA聯盟的內容憑證、以及IPTC的中繼資料。

 

添加SynthID浮水印無損畫質

 

　　由Google DeepMind開發的SynthID技術，依靠兩個深度學習AI模型來運行：第一個為浮水印產生模型，使用嵌入式浮水印技術，將數碼浮水印直接添加到AI產生的內容，過程中會將浮水印與原始內容對齊，以提高浮水印的不可察覺性；第二個為識別模型，能夠掃描影像或音訊中的浮水印，藉此辨識數碼作品是否由AI生成。

 

　　添加SynthID浮水印後，影像畫質不會受損。就算影像曾被裁切、加入濾鏡、更改顏色、甚至使用有損壓縮方案來儲存檔案，浮水印依然會存在。目前可被加上SynthID的影像只限由Google製圖工具Imagen所產生的作品，同時該公司亦表示這項技術「並非萬無一失」且「並不完美」。

 

影像被添加肉眼不可見的SynthID浮水印後，畫質不會受到絲毫損害。（相片來源：Google官方網誌）

即使圖片被加入多重濾鏡，影像中暗藏的SynthID浮水印依然無法去除。（相片來源：Google官方網誌）

 

點擊CR憑證圖示查看影像來源

 

　　另一AI內容識別技術是來自C2PA，其全名是「Coalition for Content Provenance and Authenticity」（內容來源和真實性聯盟）。這是由Adobe發起的技術聯盟，成員包括：Nikon、Leica、Microsoft、Intel、ARM等。

 

　　這個聯盟建立一個名為「內容憑證」（Content cRedentials，CR）的開放性標準，任何廠商均可以遵循標準替圖片、影片或文件檔案嵌入數碼內容標記。當支援CR憑證的網站發現影像中含有憑證標記，即會在影像右上方加入「cr」圖示；用戶點擊圖示，即可以查看影像的來源資訊，確認作品是否由AI產生。

 

由Adobe Firefly生成的影像作品，右上方均會嵌入「cr」圖示，可供用戶查看影像的來源資訊。（相片來源：Adobe官網）

 

　　即使刊登圖片的網站不支援CR憑證識別，用戶也可以把圖片拿到C2PA提供的驗證網站進行辨識，讀取內裏的憑證資訊。再者，CR憑證亦會記下影像的編輯歷史，讓用戶可以追蹤圖片的詳細變化記錄。OpenAI表示，2024年初已替AI繪圖工具DALL·E 3加入CR憑證功能，未來更會把這項識別技術整合到影片生成模型Sora。此外，Adobe影像生成模型Firefly產製的作品，也會自動加插入CR憑證。

 

IPTC中繼資料支援性最為廣泛

 

　　最後要介紹的是一項較古舊、但支援性卻更廣泛的內容識別技術——IPTC中繼資料（Metadata）。國際新聞及通訊組織IPTC（International Press Telecommunications Council）在1990年訂定一項描述多媒體狀況的資訊標準，裏面定義了照片標題、照片描述、分類標籤、攝影師與版權等資訊欄目。

 

　　IPTC在影像業界已成為廣泛採用的標準，譬如《Photoshop》就可以直接編輯相片中的IPTC資訊。Google I／O 2023開發者大會上，該公司表示計劃在Google圖片搜尋結果中參考IPTC資料來標記圖片。Midjourney、Stability AI、Shutterstock亦已宣布採用IPTC中繼資料來標記其AI生成內容。

 

互聯網一切事物不再是眼見為實

 

　　雖然業界已研發出各種AI識別浮水印，但美國馬利蘭大學計算機科學教授蘇希爾·費茲（Soheil Feizi）卻指出，目前沒有任何一款浮水印是完全可靠的，有心人仍可以想方設法繞過浮水印，這情況就好比資訊安全公司與黑客之間長年累月的網絡攻防戰。

 

　　此外，當AI生成內容被插入到人類創作的作品中，浮水印應該如何標註將是一大挑戰。假如有人將真實錄製的錄音檔放入經過AI處理的照片或影片上，那麼平台就要弄清楚如何標記那個部分是AI產生的、那個部分是人類製作的，這將是一項非常繁瑣、易犯錯、兼且具爭議性的任務。盡管如此，有浮水印總比沒有好，至少可以讓公眾意識到，在AI時代下網上一切事物不再是眼見為實！

 

 

 《經濟通》所刊的署名及／或不署名文章，相關內容屬作者個人意見，並不代表《經濟通》立場，《經濟通》所扮演的角色是提供一個自由言論平台。

• 

【你點睇？】美國總統大選在即，你認為誰將最終當選？► 立即投票