過去一周,多張由人工智能(AI)工具製作的前美國總統川普的假圖像出現在社交媒體上。
許多圖片虛假地展示這位前總統遭到逮捕。
許多分享照片的人指出,這些照片是假的,看起來並沒有騙過很多人,但確實有一些人信以為真。
周四(5月25日),川普還在自己的社交媒體平台Truth Social上分享了一張人工智能生成的圖片。畫面顯示他正跪在地上祈禱。
人工智能生成的圖像有什麼特點?如何分辨真假?
(圖源:推特)
網上流傳的圖片(如上圖所示),看起來超真實,但其看起來更像是舞台藝術拍攝,而不是瞬間抓拍的照片。
仔細觀察就會發現一些明顯的跡象,表明有些地方並不完全正確。
觀察圖像的中心可以發現,川普的手臂太短了,左邊的警察抓着的東西更像爪子,而不是人手。
同樣,如果你把注意力集中在川普的脖子上,你會注意到他的頭看起來好像是疊加在照片上的。
人工智能專家、BBC廣播系列節目《未來將被合成》(the Future Will be Synthesised)主持人Henry Ajder表示,目前的技術並不擅長描繪某些身體部位,尤其是手。
他說:「如果你放大這些圖像,你經常會看到手指數量等不一致的地方。」
新聞有無報道?
簡單地瀏覽幾家新聞網站,就能確定川普沒有被捕,甚至沒有被起訴——至少現在還沒有。
如果川普真的面臨指控,他的被捕將成為全世界的頭條新聞。可以想像,如果這位前總統以某種方式從警方手中逃脫,媒體會有多麼慌亂。
另一個好主意是考慮圖像被共享的上下文。誰在分享,他們的動機是什麼?
Ajder指出,人們經常分享照片來放大他們更廣泛的政治觀點,即使他們沒有檢查照片是否真實。
他補充說:「我們已經看到了其他一些非常粗糙的偽造例子,比如南希·佩洛西(Nancy Pelosi)的錄音被放慢了速度,讓她聽起來像是喝醉了。」「這是一種超級粗暴的操縱,但很多人都被它愚弄了——或者至少願意相信它。」
更多奇怪的細節
(圖片來源:Eliot Higgins)
仔細看看這些照片本身,就會發現更多可疑的細節。
不自然的膚色和面部蠟黃或模煳的特徵都強烈表明這些照片是假的。
在上面的圖片中,中間偏右的人的臉很模煳。川普的頭髮看起來很模煳,而他的臉卻很清晰。
(圖片來源:Eliot Higgins)
人工智能技術也尚未掌握對眼睛的準確描繪。
在上面的圖片中,警察似乎在追捕川普,但他們看的方向完全不同。
麻煩還在後面?
人工智能專家在接受BBC採訪時表示,雖然偽造圖像「並不是什麼新鮮事」,但該領域的進展速度以及被濫用的可能性都值得關注。
數字內容分析公司Truepic的Mounir Ibrahim表示:「合成內容正在快速發展,真假內容之間的差距正變得越來越難以辨別。」
專家們一致認為,川普的名氣讓贗品很容易被發現。但是不認識的人的照片可能會使這項任務變得更加困難,而且這項技術一直在進步。