美國三藩市的一家初創公司利用中國公司提供的免費人工智能（AI）模型，成功闖入了一名TikTok用戶的攝像頭。此事引發人們對中國AI模型不設限制的擔憂。
美國三藩市的一家初創公司藉助中國公司提供的免費人工智能（AI）模型，成功闖入了一名TikTok用戶的手機攝像頭。此事引發人們對中國AI模型不設限制的擔憂。
據《華盛頓郵報》報導，網絡安全初創公司DepthFirst尋求人工智能軟件來幫助查找計算機漏洞時，沒有選擇美國頂尖的人工智能公司，而是用了一家中國公司的AI模型。
美國的人工智能公司（例如Anthropic和OpenAI）限制其AI模型僅對經過嚴格審查的特定用戶提供網絡安全方面的幫助。然而，中國的公司，例如DeepSeek和Z.ai，則允許任何人免費下載和修改其人工智能模型。
今年早些時候，DepthFirst對Z.ai的免費GLM AI模型進行了大量修改，並結合其它工具，創建了一個可以深入軟件內部的模型，用來尋找可能被惡意黑客利用的漏洞。
《華盛頓郵報》的報導說，他們獲得的一段展示軟件功能的視頻顯示，DepthFirst的一名員工利用TikTok中的一系列漏洞，遠程訪問了一部正在瀏覽TikTok的智能手機上的攝像頭和照片庫。
DepthFirst的AI找漏洞模型在TikTok使用的一款開源軟件中發現了漏洞，該漏洞允許攻擊者遠程訪問TikTok用戶的手機。TikTok安全團隊發佈的消息顯示，DepthFirst已將該漏洞披露給TikTok，TikTok確認並修復了該漏洞。
DepthFirst的行政總裁卡西姆‧米塔尼（Qasim Mithani）表示，他們利用找漏洞的AI模型，已在數百萬用戶使用的軟件中發現了數十個嚴重漏洞。人工智能的強大力量讓他確信，隨着人工智能日益成為網絡攻擊者的有力工具，世界正面臨一場嚴峻的考驗。
今年4月，Anthropic公司警告稱，其最新版本的Claude人工智能模型在網絡防禦和網絡攻擊方面都表現出色，這促使美國和其它國家的政府評估AI帶來的潛在風險。
Anthropic和OpenAI都限制其人工智能模型的黑客攻擊能力，並且只允許經過審查的公司出於防禦目的使用其全部功能。
數月後，中國的人工智能模型也展示了強大的網絡防禦和攻擊能力。但是，這些AI模型的限制很少，可以讓全球幾乎任何人獲取用於防禦或攻擊的高級黑客技術。
「這狀況讓我夜不能寐。」米塔尼說。
