P圖機械人有多種功能。受訪者供圖
不法分子在網絡上叫賣AI圖集。受訪者供圖
多名受害者被不法分子P圖。受訪者供圖
6月27日，中央網信辦下發《關於開展「清朗·2023年暑期未成年人網絡環境整治」專項行動的通知》，開展為期兩個月的「清朗·2023年暑期未成年人網絡環境整治」專項行動（以下簡稱「專項行動」）。其中特別指出要關注新技術新應用風險問題，如對「AI換臉」等技術生成涉未成年人低俗色情圖片視頻等，要予以重點整治。
如今，「AI脫衣」技術已生成一條黑色產業鏈。上游不法分子通過AI技術生成圖片，並對這些圖片進行整合，打包成圖集，通過成套售賣的方式出售給下游買家，有的人為此建立起「付費會員群」，使一些無辜人士、甚至未成年人陷入「黃謠」漩渦。中青報·中青網記者對此進行了調查採訪。
「AI脫衣」圖被公開叫賣
「圖片中確實是我的臉，但這裏的我……怎麼沒穿衣服？」
今年5月，還在讀大學的李亦（化名）收到一名網友給她發來的圖片，看後，她又氣憤又害怕。
李亦是一名Cosplay（角色扮演）博主，常在社交媒體分享自己扮演各種動漫角色的照片。後來，她和網友找到了製作裸照的洛粉（網名）。洛粉承認，他將照片放入一款AI（人工智能）軟件中，不到幾分鐘就能將李亦穿好的衣服「脫下」。在網上，洛粉以5元一張的價格公開叫賣圖片，聲稱60元能打包買到60多名博主的「裸照」，其中甚至還有未成年人的照片。
「我從來沒有拍過這種照片！」氣憤的李亦着手收集對方利用AI進行不法行為的證據，意圖追究其法律責任，於是，她以買家的身份與洛粉加上了好友。
洛粉並非直白地以「AI脫衣」字眼兒 招攬生意，而是隱晦地表示自己在「改圖」，「小姐姐，這裏接Cosplay的『改圖』，5元一張。」當李亦進一步詢問其如何「改圖」時，洛粉含糊不清地表示，自己是採用AI技術生成了各種Cosplay的圖片。
李亦從洛粉組建的一個群聊中發現了端倪。在這裏，洛粉不僅繼續提供「改圖」的服務，更發佈了大量帶有暗示挑逗意味的圖片，以圖集形式公開叫賣，稱60元可以買到65張，「預計還有總共300張會通過群聊慢慢更新」。
「這是誰？」李亦從中找到了自己的「裸照」，去找洛粉問個明白。「這是克羅托（角色名）不穿衣服，博主本人讓這麼拍攝的。」洛粉答道，並諱莫如深地提示，「可別亂轉亂發，因為套圖中涉及到的60多名博主本人不同意」。
「他這麼說像是我們這些博主自己去拍了大尺度照片！」李亦十分氣憤，亮明身份，與洛粉對質。
「對不起姐姐！」洛粉承認自己「二次創作」了李亦的圖片。李亦表示，這並非正常的「二次創作」範圍，而是侵犯了她的人格權。
洛粉辯稱，這些系列圖並非出自他手，「是請別人做的」，洛粉並沒有意識到這件事情的嚴重性，和李亦商量，「我的卡里餘額只有1200元，能不能賠償你650元私了？」
「這不是錢的問題，你已經違法了。」李亦和其他博主選擇報警。
黑色產業鏈禍及未成年人
李亦的遭遇並非個例。AI技術被濫用，一條黑色產業鏈正在形成。
在網絡上，只要輸入關鍵詞，就能輕易找到提供「AI脫衣」相關技術或服務的商家。他們打着「AI繪畫」「AI改圖」的旗號在社交媒體上招攬生意，引導顧客添加其聯繫方式，待到一對一溝通或加入私密群聊後，就拿出具有暗示意味的圖片，誘導網友購買。
「AI脫衣」的受害者眾多，甚至禍及未成年人。一名賣家聲稱自己「資源眾多」，發來了一整套價目表，詳細地將圖集分為「明星」「網紅」「模特」「漫畫」等多個種類，在他發來的樣張圖片中，甚至還出現了穿着校服的高中生。他聲稱，如果沒有喜愛的類型，顧客可以發照片「單圖定製」，兩元一張，「網絡上的圖都可以作為素材」。
另一名賣家也採用會員制方式邀請顧客進群，稱目前「群里已經有兩三百個圖集」，只要花30元進群就可以享受免費持續更新。當中青報·中青網記者進一步追問其圖集來源時，他支支吾吾地表示自己的資源是從某網站下載來的，「不是我自己做的」。
「其實只要掌握了相關技術，人們都可以利用AI製作這些圖片。」資深算法工程師藍天告訴中青報·中青網記者，「AI脫衣」算法稱作「DeepNude」，因為倫理問題，目前在美國已被下架，但不排除有人通過其他AI算法訓練機器，以達到同樣的效果。
在某通訊軟件上，一個AI機械人收穫了眾多用戶。它不需要使用者掌握複雜的算法知識，只需要按照其提示，就能完成給照片「換臉」「去衣」等操作。這一機械人還有詳細的精細化設置，能像美顏相機一樣調整圖片的各項參數。
這款機械人需要付費使用，點擊「充值」按鈕後，用戶會被引導到一個點卡充值網站當中進行網上支付。不過，用戶並非付費給商家，而是個人，因此很難追蹤該機械人的運營主體。根據其價目表，最低兩元就能生成一張脫衣照。
「機器是中立的，只要給它『餵』了足夠多的人體構造圖，機器就能在之後輸入圖片時，通過識別面部、身體等特徵重繪全圖，生成一張『脫衣照』。」藍天稱，機器「只管照片的生成」，不會顧及照片中人的意願，以及是否成年等倫理、法律問題。
「按照技術工具論的視角，技術是中性且無害的，但這樣的認識忽略了技術本應具有的道德相關性問題。」西南政法大學刑事偵查學院副教授、碩士生導師謝玲認為，技術之間是有差別的，有一些新技術如深度偽造技術等被濫用所產生的後果很難預料，其道德倫理及法律問題更為複雜。
