新聞 > 科教 > 正文

第一批因ChatGPT坐牢的人,已經上路了

就在由ChatGPT引發的AI革命席捲全球之際,第一批利用ChatGPT犯罪的人已經悄然出現了。

前不久,外國網絡安全平台GBHackers披露了一段黑客利用ChatGPT實施詐騙的犯罪行為:黑客通過ChatGPT在短時間內生成完整的詐騙套路話術,並把ChatGPT包裝成「虛擬角色」,讓受害人以為自己「墜入愛河」,最終遭受詐騙。

儘管OpenAI意識到ChatGPT可能會被犯罪分子利用,並對其添加了安全保護機制,但依舊有大批黑客取得了破解安全機制的方法,並利用ChatGPT快速編寫犯罪軟件。例如編寫用於騙取個人信息的釣魚郵件;生成加密工具遠程鎖定他人電腦,由此進行勒索;以及生成攻擊腳本,對網絡用戶進行SIM交換攻擊(身份盜竊攻擊)等等。

作為互聯網歷史上增長最快的消費級應用程式,被黑客利用的ChatGPT無疑像一枚巨大的定時炸彈。目前,美國參、眾兩院已經將目光聚焦到Open AI身上。

路透社報道,近日,有美國眾議院議員公開宣稱自己「被人工智能嚇壞了,尤其是不受限制和監管的人工智能」,並拿出了決議草案,呼籲強化對人工智能的監管。

不僅如此,由於OpenAI在安全保護機制方面對ChatGPT進行了較多限制,ChatGPT似乎正處於一種「情緒崩潰」的狀態。

據《獨立報》報道,在與用戶交流時,ChatGPT出現了侮辱用戶、對用戶撒謊的情形,稱用戶「像一個騙子、一個操縱者、虐待狂、魔鬼」。

不可否認,月活用戶數量超過1億人次的ChatGPT,有着不可估量的巨大價值。但在其技術前景、商業模式都還方興未艾的時刻,圍繞自身的「犯罪方案」以及所造成的負面影響卻已真實發生。由新技術衍生的網絡信息安全以及違法犯罪等方面的風險,成了擺在全球AI科學家、企業以及國家面前的嚴肅問題。

第一批因ChatGPT坐牢的人,或許已經在路上。

1.ChatGPT的地下生意

在眾多的犯罪方法中,利用ChatGPT進行詐騙只能算入門級的手段,比如用AI來談一場「虛假戀愛」。

據外國網絡安全平台GBHackers報道,由於具備強大的工作生產效率,ChatGPT深深地吸引了網絡詐騙犯。

藉助ChatGPT,詐騙者可以在幾秒鐘內生成一條完整的詐騙「套路」:從自我介紹、聊天內容到一份精心製作的「情書」,ChatGPT都可以一鍵生成,甚至還可以通過錄入目標對象的特徵,對詐騙話術進行個性化定製。

在編寫情書後,利用生成式AI,黑客能快速創建一個「虛擬角色」,並通過電子郵件引誘受害者「墜入愛河」。然後搭配由ChatGPT輔助編寫的收款程序或銀行卡信息獲取連接,詐騙受害人錢財。

其實,這種詐騙方式並不新鮮。但問題在於,在如今人工智能技術的支撐下,人們開始難以分辨屏幕的另一端到底是人還是機器。

為測試人們是否真的會對AI版「情話」產生信賴,2月13日,全球最大安全技術公司邁克菲(McAfee)用AI生成過一封情書,並將它發送給全球5000位用戶。

結果顯示,在已知該情書有可能是由人工智能生成之後,依舊有33%的受訪者願意相信這些情話出自人類手筆,而堅信情書由AI創作的受訪者佔比僅為31%,其餘36%的參與者則表示無法區分情書的創作者到底是人還是機器。

在AI加持下,騙子們正變得比以往任何時候都更容易欺騙毫無戒心的受害者。

一封用ChatGPT生成的情書

用AI寫情書還只是外國黑客們「牛刀小試」的成果。

據IT安全公司Check Point披露,更厲害的黑客已經開始利用ChatGPT批量生成勒索軟件與惡意代碼。

此前,Check Point威脅情報組經理Sergey Shykevich表示,最近幾周,他們已經得到了一些網絡犯罪分子利用ChatGPT實施犯罪的證據。

據Shykevich介紹,這些犯罪者正在繞開OpenAI的安全限制,能自由地操縱ChatGPT去編寫犯罪程序。

為了方便在GPT模型上搭載更多的應用程式,OpenAI為開發人員預留了應用程式編程接口。而黑客就是利用這些接口,把GPT模型引入到一系列外部應用。

比如,黑客將OpenAI的GPT-3模型集成到即時通訊軟件Telegram的通道中。憑藉這種操作,黑客們就可以通過Telegram「隔空」使用ChatGPT,以此繞開安全監管。

目前,突破ChatGPT安全限制的應用已在美國暗網內公開出售,應用服務購買者按使用次數向黑客付費。收費不算太貴:前20次對話免費體驗,此後每向ChatGPT進行100次對話,就需支付5.5美元(折合人民幣37.6元)。

能繞過Open AI安全措施,用ChatGPT進行「自由問答」的軟件已在暗網上售賣

圍繞類似的安全突破方法,一系列犯罪方法論已經成型,比如藉助ChatGPT創建信息竊取程序。

此前,一個名為《ChatGPT——惡意軟件的好處》的帖子曾在國外暗網黑客論壇上傳播。該貼子的創建者分享了自己利用ChatGPT建立竊取程序代碼的全過程,按照操作流程,ChatGPT在較短時間內即可生成一款可扒取、壓縮、傳輸12類文件的程序。

除了信息竊取,ChatGPT還能幫助黑客生成攻擊軟件和勒索病毒。據英國《金融時報》報道,近日,一款由ChatGPT輔助生成的SIM交換攻擊腳本開始在網絡上傳播。

SIM交換攻擊即身份盜竊攻擊,原理是突破流動電話公司對電話號碼的控制權,將電話號碼從原持有者的SIM卡交換到由攻擊者控制的SIM卡中,從而控制受害者的流動電話。

勒索病毒則是通過ChatGPT來生成多層加密軟件,以此對受害者的計算機進行遠程鎖定,通過向受害人收取被鎖計算機的「贖金」來獲益。

一款由ChatGPT生成的網絡釣魚郵件正在流傳

《金融時報》對此評價,ChatGPT目前雖然只是內容生成工具,並未直接參與犯罪,但這標誌人們開始使用人工智能來入侵他人,技術水平更低的犯罪者將因此獲得更強大的犯罪手段。

ChatGPT就像潘多拉魔盒,一旦被打開,想要關上就沒那麼容易了。

2.立法者們的態度

據瑞銀髮佈於2月1日的研究報告,ChatGPT在1月份的月度活躍用戶估計為1億人次,成為歷史上增長最快的消費級應用程式,其社會影響力與日俱增。

當巨大的犯罪潛力與強大的社會影響力撞在一起,ChatGPT的諸多安全漏洞逐漸顯露,美國的立法者們坐不住了,一場圍繞OpenAI展開的監管風暴正在開啟。

據路透社報道,日前,美國加利福尼亞州民主黨眾議員劉雲平(Ted Lieu)公開表示了對ChatGPT的擔憂,稱「被人工智能嚇壞了,尤其是不受限制和監管的人工智能」。

加利福尼亞州民主黨眾議員劉雲平在國會大廈

劉雲平稱,自己確實對人工智能「能以令人難以置信的方式推動社會發展」感到興奮。但他也認為ChatGPT必須儘快納入監管。劉雲平把人工智能比作一個「有個性的」火箭發動機,動力強大,但也危險,直言:「我們需要為它即將帶來的巨大破壞做好準備」。

劉雲平還拿出了一份決議草案,稱「美國國會應該關注人工智能,確保人工智能的開發和部署能以安全、道德、尊重人們權利和私隱的方式展開」。

責任編輯: 方尋  來源:甲子光年 轉載請註明作者、出處並保持完整。

本文網址:https://hk.aboluowang.com/2023/0218/1868272.html