可製假戰爭天災場景 Google Earth急撤新AI圖像功能
美國科技巨頭Google上周四（7月30日）推出允許Google Earth用家利用衛星圖片生成人工智能（AI）模擬影像的新功能，但不足48小時便宣布下架，稱發現有用戶分享了違反公司政策的生成影像截圖。美英傳媒測試發現，可利用有關功能在真實的衛星圖片上生成虛假場景，例如戰爭和天災，專家批評此舉恐誤導公眾並助長假資訊散播。
BBC實測 製巴黎鐵塔倒塌假圖
Google周四推出把旗下AI影像生成器Nano Banana 2融入Google Earth的新功能，但隨後有用家發現可通過輸入文字指令，基於真實的衛星圖片、高空鳥瞰或3D圖片生成虛假場景，並在其他網絡平台發布。英國廣播公司（BBC）在實測中，生成了法國艾菲爾鐵塔倒塌、埃及吉薩大金字塔發生地陷，以及俄軍坦克出現在烏克蘭首都基輔等虛假畫面。《華盛頓郵報》亦生成出華盛頓紀念碑旁出現巨大空襲彈坑、多輛坦克魚貫駛於三藩市金門大橋的假影像。
Google最初表示，由AI生成的衛星影像皆暗藏水印，可透過人手操作利用SynthID功能檢測驗證影像真假。惟傳媒測試發現，Google旗下AI聊天機器人Gemini無法辨識部分假衛星圖。另外，只要對着假衛星圖拍照，大部分AI工具都無法識別出複製圖片內容是虛假的。
專研AI造假的研究學者艾德爾指出，創造及散播衝突地區的假衛星影像特別容易引發混亂，對記者核查工作、前線人員應對瞬息萬變的局勢帶來重大挑戰。
Google於美東時間前日下午發聲明，稱發現有人分享違規的生成影像截圖，決定暫時撤回該新功能，並會在停用期間致力建立更完善的安全護欄。