一個好久沒聯繫的親友突然管你借錢，你怎麼判斷是不是本人?
通話?視頻?以前也許行，但如今，最保險應對只有拒絕。
2500美元的致富之路
來自404media的 Joseph Cox花了幾個星期，混進了一個銷售電詐工具的 Telegram群。賣家稱，這款叫「昊天 AI」的軟件可以在WhatsApp、Microsoft Teams、Zoom、TikTok、Instagram和 YouTube等視頻軟件里實時換臉。
來買臉的人可以選現成的，也可以花錢定製。
Cox第一次和技術人員打視頻，就被嚇了一跳。電話接通，屏幕那邊出現的是「華仔」。那張臉不只長得像，還能說話、眨眼、切換表情。「假華仔」用手捂住嘴、蓋住眼睛、又摸了摸下巴，臉部一點兒沒錯位散架。
過了一會兒，對方又把自己換臉成了一個美女。
「付費!立馬付費!」，然後 Cox把自拍發給了對面，當天他的臉就做好了。Cox撥通視頻，屏幕對面的「Cox」挑起一邊眉毛，笑着揮了揮手，接着又是捏臉、捂鼻子、摸下巴。「Cox」甚至還原了他本人的胡茬和眼袋。
Cox這才意識到，任何人都可以在電話另一端頂着他的臉，招搖撞騙。他對着屏幕連喊兩遍，「Oh My God!(你嚇到我啦～)」。
甚至，識別準確率能達89.1%的深度偽造檢測模型 Xception，判定這套 AI模型生成的視頻時，將幾乎所有樣本都判為「真實視頻」。
AI劉德華邀請您激情開麥|昊天 AI
不過，這套模型仍然存在目前多模態上的一些問題，比如局部變化引發整體崩壞，模型缺乏對三維空間嵌套關係的顯式理解，所以人物手指一張開，五官就可能跟着變形，眼球甚至會突然鼓起來。(所以下次你懷疑網戀對象是 AI換臉的，就讓他把手舉到臉前，和你剪刀石頭布。)
今年4月，這家公司推出了一項新服務，幫騙子客戶繞過刷臉驗證。把頭型相似的人換臉後，就能通過眨眼、點頭、轉頭的刷臉認證——這套下來，連銀行都吃不消。
東南亞的電詐園區光聽着就讓人瑟瑟發抖。有些園區為了冒充公務機關，會專門搭出一間假辦公室，牆上掛國旗，穿制服的騙子正襟危坐。現在，這些拙劣表演直接省去。這套換臉系統實現讓騙子在 WhatsApp里冒充警察。
這可以說是從電詐園區走出來的技術流代表。上述這家公司總部就設在柬埔寨，生意做得相當完整，有人遠程操作安裝，要求電腦性能足夠，至少 RTX4080及以上的顯卡，版本跟着 AI模型更新。在柬埔寨部分地區，客戶甚至可以預約上門安裝。
軟件(臉庫調用)年費1998美元，專門定製人臉額外498美元，而且只支持加密貨幣 TRON付款。
從2023年10月開始，這家公司的加密貨幣錢包已經入賬超過400萬美元，相當於有近2000人購買了服務。
安全人員拆包了軟件，發現裏面有大量的開源工具。有技術含量的事情就是將各種開源工具整合成一個平台，幫客戶調試和安裝。年費里最貴的那部分，其實是服務和信息差——搞詐騙的也風風火火地擁抱了 AI。
根據聯合國毒品和犯罪問題的辦公室統計，在東南亞的 Telegram灰產市場裏，專門向電詐團伙賣深度偽造軟件的供應商已經超過了10家。
一類換臉軟件要求屏幕背後必須有一個人，而且這個人的「大模樣」不能和目標差太遠。
更為先進的一類 AI實時視頻模型，連人都省了。給它一張照片，屏幕里就能出現一個完整的 AI角色。視頻接通後，這個人會看着你說話，表情、眼神、語氣和手勢跟着聊天變化。甚至還能實時生成場景。
假如你問，「提了什麼新車，給我看看實力。」AI騙子一邊和你聊天，一邊走到車旁，拉開車門。
今年，OpenAI檢測到一個位於柬埔寨波貝的詐騙網絡，這個網絡用 ChatGPT生成過假護照、法律通知、股票購買確認單、博彩平台頁面和加密貨幣交易界面。
視頻里的金融騙子，西裝革履，言之有據，豪車傍身，拿得出履歷證明。
幾經掙扎，你終會徹底上鈎。
精挑細選的受害者
當你要求開視頻驗人，還慶幸自己很警惕的時候，殺豬盤通常已經進行到後半段了。
在此之前，騙子篩選並定位目標，花上幾天幾個月通過各種方式建立起信任。這工作量可比換個臉多太多了。
一名叫 Safeer的印度男子被販運到緬甸的一座電詐園區。園區給他安排的新身份，是一名28歲的新加坡女性，名叫 Ella。
任務十分艱巨。四天之內讓接觸對象愛上自己，而且對象不止一個。
一個月內，Safeer接觸了大約5萬名目標，來自至少17個國家。裏面有德國的油漆工、土耳其的糕點師、俄羅斯的工程師，還有庫爾德地區一名喪偶的裁縫。
Safeer並不懂17國語言，也記不住上百個目標的喜好，他每個班次要同時操作幾十個賬號，和一百多人聊天，完全是靠一套叫「控天智能拓客(簡稱 KT)」的軟件。
KT接入十幾種主流社交平台，同時管理多個賬號和聊天對象，聊過什麼也會留下記錄。
利用內置的 GPT、Gemini等模型，將「新加坡28歲女性 Ella」的職業、語氣、經歷和性格等等人設在聊天中發揮到極致。
Safeer需要做的就是在消息和 AI生成的回覆之間粘貼和發送。
另一名被困在緬甸 KK園區的肯雅男子，靠着 ChatGPT冒充德州的牧場主和阿拉巴馬州的大豆種植戶。這個人從沒在美國種過一天地，照樣能陪人聊牲畜、收成和農場生活。OpenAI發現，詐騙網絡還會專門輸入指令，要求模型回復時，不要用破折號這種「一眼 AI」的寫法。(真是不怕騙子說假話，就怕騙子有文化。)
針對如此繁瑣的「獲客」流程，也有貼心的「上游」公司開發了「電詐套裝」，名叫007TG(太地獄了)。
打開007TG的官網，第一眼可能會以為這是一家服務跨境電商的正常公司。網站上有 Slack、Trello、AWS，也收錄了代理 IP、批量社交賬號、虛擬手機號、短訊接碼、瀏覽器指紋檢測、USDT地址查詢和虛擬支付卡。
用一名前詐騙人員的話來說，007TG就是工業化詐騙的「一站式商店」，園區需要什麼，就從裏面挑什麼。
比如園區開工前，要先準備一大批能用的號碼和社交賬號。
007TG里有工具可以生成二百多個國家的電話號碼。號碼準備好以後，另一款工具可以把多個社交賬號分開運行，每個賬號使用不同的 IP，儘量避免一封封一大片。
賬號多了，又容易被平台發現「集中 IP登錄」，所以還有一款工具可以給不同賬號，安排不同的代理 IP，讓它們看起來像是從不同地方登錄。
接下來，007TG還可以把這些賬號放進後台，一鍵群發消息。只要有人回復，就算對接成功，再交給 Safeer們往下聊。
就算賬號被封了，還有工具能轉移原來的聊天記錄和客戶資料，換個賬號接着聊。
這家公司甚至開發了一款組織管理軟件(叫 Cloud007)，連園區內部怎麼管人，也一併 AI化。
這款工具不盯受害者，專門看守 Safeer們。統計工時、隨機截屏、再用 AI生成工作報告，看今天聊了多少人，發了多少消息，推進到哪一步了。
「員工」們除了線上被記考勤，時不時還要擔心被拿着電棍巡視的主管電擊一杵子。
還有一款工具叫 SCRM Champion，會記錄員工和目標之間的對話，分析對方回覆中的情緒變化，再生成績效報告。同時盯着員工和受害者。
007TG的「辦公套裝」|c4ad
聽起來很可怕吧!
你能想到的每一個流程都被「AI化」了，每一個工具都是為成熟的騙局流程精心設計的。而且，購買電詐工具就跟企業購買辦公軟件一樣便捷。
以前，騙子不敢開視頻，只好騙對面說攝像頭壞了。
現在，攝像頭終於被 AI「修好」了。
