新聞 > 科教 > 正文

來自科技的又一個危險:AI學會了偽造衛星地圖

人工智能技術的深度偽造(Deepfake)有了一條新「賽道」——偽造衛星地圖。

導讀:「如果我們不對深度偽造地理的問題有所警惕,那麼我們將進入到『假地理』反烏托邦的危險之中。」

深度偽造(Deepfake)有了一條新「賽道」——偽造衛星地圖。

深度偽造特指人工智能技術在經過深度學習後,製作出虛假圖像,例如給明星和政客的視頻「換臉」、生產帶着女明星臉的色情視頻。上周刊載於期刊《製圖學和地理信息科學》的一篇論文則指出,深度偽造技術已經能夠製造難以辨別的虛假衛星地圖,它或許會給人們帶來不少麻煩。

上述論文的第一作者趙博(Bo Zhao)是美國華盛頓大學地理專業的助理教授,他在接受《The Verge》採訪時表示:「當很多地理信息系統的從業者在讚賞人工智能技術,看到它在解決地理問題上的優勢時,很少人會承認或公開批評人工智能的深度偽造是一個潛在危險。」

在研究中,趙博和團隊用實證證明深度偽造衛星圖片在技術上是可行的。他們選取了三個城市的衛星地圖,分別是美國的西雅圖市和塔科馬市,以及中國的北京市,三個城市衛星圖像在綠地面積、街道寬度等均有所差異。人工智能系統會學習西雅圖和北京的城市景觀特徵,以塔科馬市為基礎數據集,進而生成一張假地圖。

人工智能深度偽造的流程

結果顯示,經過200個周期的訓練後,人工智能系統能成功生成一張在地球上不存在的塔科馬市衛星地圖。雖然這張假衛星地圖不算完美,它的色彩指數要少於真實地圖,紋理更加複雜和不均衡,但看起來依然很真實,且肉眼難以識別。

研究人員認為,與一般的圖片和視頻相比,深度偽造的衛星地圖更具迷惑性,因為觀看者很容易把地圖上不自然的地方歸因於圖片質量不高,且一般衛星地圖不需要高清,便足以具有說服力。「由於大多數衛星圖像是由專業人士或政府產生的,所以公眾通常更願意相信它們是真實的。」研究者趙博說。

a:塔科馬市的基本數據圖;b:塔科馬市的真實衛星地圖;c和d分別是基於西雅圖和北京景觀偽造出的塔科馬市地圖。圖片來源:https://www.washington.edu/

當人工智能學會了深度偽造衛星地圖後,它們能被用來做什麼?

研究人員認為,惡意偽造地圖的情形能有很多,例如可以偽造山火或洪水的場景,同時偽造衛星地圖的存在,也使得真實衛星地圖的可信性變弱——當有人指稱地圖是偽造的時候,普通人難以用肉眼作分辨,也難以判斷該相信誰。2019年時,美國政府下屬的國家地理空間情報局分析師還指出,深度偽造的衛星地圖可能會誤導軍方的戰略部署,例如軍事訓練會被虛構出的不存在的地標誤導。

「隨着技術的不斷發展,這項研究旨在鼓勵人們對地理數據和信息有更全面的理解,揭開衛星圖像絕對可靠的表象。」趙博表示,他的研究目標是提高公眾對深度偽造地圖的認識,人們需要先意識到這個風險的存在,才能更好地應對這個新問題。

一張衛星地圖

面對深度偽造地圖的問題,最關鍵是要有檢驗地圖真偽的應對技術。論文中也指出,現時技術上對虛假地圖的分析是「二進制結果」,即完全真實或完全虛假,針對真假糅合的地圖,技術上無法挑出地圖中虛假的地方。如果想訓練出能在地圖上「挑假」的系統,則需要建立一個更全面的衛星圖像數據庫,再針對性地訓練一個包含各種真實和虛假衛星圖像場景的數據集。

此外,由於現實世界中景觀特徵的複雜性和深度偽造方法的多樣性,幾乎不可能存在一個通用的地圖真偽鑑別系統。

趙博認為,地理學研究者應該着手開發能提供給公眾使用的鑑別系統,這種系統類似於現時的網絡信息事實核查工具。對公眾來說,如同媒介素養一樣,地理空間數據的素養也非常重要,人們應了解虛假地理信息對社會的影響。

「如果我們不對深度偽造地理的問題有所警惕,那麼我們將進入到『假地理』反烏托邦的危險之中。」研究團隊警告道。

責任編輯: 李雨菡  來源:網易 轉載請註明作者、出處並保持完整。

本文網址:https://hk.aboluowang.com/2021/0502/1588033.html