更糟糕的。
如果不法之徒掌握了某些重要人士的形象，他們完全可以躲在背後，以這些重要人士的身份去發言很多重要言論，來引導輿論，重塑規則。
感覺世界都要亂套了。
還可以多想一層。
萬一有人用魔法來對抗魔法呢？
比如故意露出破綻，讓人以為視頻是AI做出來的效果，好顯得自己是被陷害的無辜。
但其實，根本就是本人的千層套路？
而且，現在的技術肯定不是AI的巔峰，再這麼發展下去，搞不好還能結合全息，搞出那種肉眼都分辨不出來的效果，一個人眨眼就變另一個。
那時候，別說影像了，眼見都不一定為實。
我站在我媽面前，我媽可能還得和我對上八百個暗號，才能分辨出來我到底是我，還是騙子。
光是想想，就覺得更毛骨悚然了。
說這麼多，不是我危言聳聽，更沒有杞人憂天，現在國內外都已經有很多案例了。
有的僅僅依靠AI配音，就能大騙特騙。
美國CBS電視台做過一期節目，現場展示黑客通過克隆聲音來竊取信息的過程。
整個過程可謂是迅雷不及掩耳之勢。
僅用了5分鐘，對方就通過AI克隆的當事人的聲音，並且通過工具替換了手機來電顯示，從而成功騙過了身邊的人，獲取了相當多私人信息。
國內的「靳東」騙局也一直存在。
很多直播間循環播放着明星的視頻，再加上後期配音的旁邊，就吸引了很多阿姨的關注。
阿姨們聽到聲音誤以為這就是真的明星，沒想到都是騙子利用AI軟件模擬出來的聲線。
目的當然只有一個——騙錢。
有人胃口更大，不甘心只騙普通人的小錢，還要騙公司的大額投資。
於是偽裝出男明星的聲音去談合作，好在公司比較警惕，才沒能讓對方得逞。
現在又有了AI在視頻方面的輔助，騙子更是如魚得水，讓人防不勝防。
前幾天看綜藝，黃曉明說曾經發現自己在不知情的情況下，給某個品牌代言了。
不僅有自己和劉亦菲參加品牌活動的視頻，還在現場講了很多品牌相關的內容。
但他本人對此卻毫無印象，就很恍惚。
後來才知道，這視頻是用AI做出來的，發言也都是AI操作的結果。
連本人都差點被忽悠，何況看視頻的其他人呢？
現在某些直播間，開始用AI換臉明星搞帶貨。
不知情的人看了又怎麼能區分呢？
國外也一樣。
斯嘉麗前幾天告了一名AI程序開發者，因為對方直接用她的形象和聲音來打廣告。
明明是《黑寡婦》的幕後花絮，搖身一變，就成了AI程序的宣傳廣告。
好一個偷天換日。
網絡上本來就很容易出現那種看圖說話的假消息，經常一張圖下去八百個故事就編出來了。
如今有了AI技術，你想編什麼故事，它就給你憑空造出什麼，真與假、是與否的邊界更加模糊。
反倒更方便了造謠傳謠的人，
也給了不法之徒發揮空間。
有人分享過更惡劣的被騙經歷。
騙子截取到他的人臉識別視頻，然後利用AI換臉技術，拼接出一段裸聊視頻，然後威脅當事人要把這視頻群發給他的通訊錄好友們。
即使當事人知道自己並沒做過這樣的事，也會在一瞬間陷入恐慌，然後被騙子榨乾價值。
或許你會說不要相信網上那些人就好，但是萬一AI偽裝成你熟悉的人來尋求幫助呢？
福州的郭先生就遇到過。
一位好友打來微信視頻，請求幫助。雖然對方一開口就是430萬這樣的巨款，但微信視頻已經打消了他的懷疑，他二話不說轉了錢。
哪知道，這年頭視頻也能造假。
視頻對面的也不是真朋友，而是披着AI外皮的騙子，只是用了換臉和擬聲的手段。
說起現在這些套路，就連年輕人都難分辨，每每看到都要感慨一句，學無止境。
要是那些本就對網絡科技知之甚少的老年人碰到，就更容易上當受騙了。
反倒是騙子，總是走在學習新技術的前沿。
雖然都說互聯網是虛擬的，但很多時候構建起互聯網的底層邏輯卻是真實和信任。
這下可好，人與人的信任岌岌可危。
名人會被deep fake出自己從沒講過的話，喜提魯迅同款待遇。
上班族會被deep fake出的老闆騙得雲裏霧裏。
之前就有個公司財務，被拉進一個視頻通話群組裏，裏面每個董事會的老闆都在。
然後財務就被「換臉」老闆們，騙走了2億多港幣。
老人會被deep fake出的子女騙到傾家蕩產。
普通人會被deep fake出的莫須有視頻弄得百口莫辯。
……
所有「真相」都可以被偽造。
所有人都可以被技術玩弄於股掌之間。
AI時代，沒有真相。
這時候我們又該怎麼辦呢？
「科學技術是第一生產力」，這當然是事實，畢竟我們直白地享受着科技發展帶來的好處。
與此同時，我們不該忽略科技可能帶來的破壞性。伴隨着高速的科技發展，社會結構迎接着巨大衝擊，固有的生產模式更頻繁地遭遇被淘汰的命運，無法及時跟上發展的人經歷着動盪。
我們總說科技的發展是雙刃劍。但它的劍刃究竟指向哪方，是由人來決定的，而非由技術。
所以，比擔心AI技術的失控與風險更重要的是，加強對AI生成內容的監管，增加限制。
總好過讓它不受約束地自由發展。
畢竟現實中，開鎖的師傅都得去公安局備案，更何況是這些更不受控的內容呢？
