周四（2月8日），美國聯邦通信委員會（the Federal Communications Commission，FCC）表示，用人工智能（AI）生成的聲音撥打電話是非法的。
2023年6月9日，洛杉磯市一個展示AI語音克隆的屏幕。專家表示，AI的最大危險在於它能夠模糊現實與虛構之間的界限，為網絡犯罪分子提供廉價而有效的技術。在新型詐騙中，詐騙者正在使用仿真的AI語音克隆工具竊取人們的信息。
據路透社報導，FCC主席傑西卡·羅森沃塞爾（Jessica Rosenworcel)）表示，這項宣告性裁決為州總檢察長追查AI電話背後的實體提供了新的依據。
羅森沃塞爾說，「不良行為者在自動電話中使用AI生成的聲音來實施勒索，並模仿名人誤導選民。我們正在對這些自動電話背後的欺詐者發出警告。」
FCC指出，此前州總檢察長對AI生成的語音電話沒有辦法應對，但現在，根據新的法令，使用AI電話生成語音的行為是非法的。
本周早些時候，新罕布殊爾州總檢察長約翰·福爾梅拉（John Formella）表示，那個模仿拜登總統聲音的虛假AI電話已經被發現來自德克薩斯州的公司。他表示，已向該公司發函，刑事調查正在進行中。
民主黨FCC專員傑弗里·斯塔克斯（Geoffrey Starks)）表示，生成式AI的使用給選舉帶來了新的威脅，虛假自動電話越來越能以假亂真。
FCC表示，「這種虛假語音能欺騙被叫方，讓他們相信，他們信任的人或他們關心的人（例如家庭成員）希望或需要他們採取一些行動。」
2023年，FCC最終對保守派活動人士處以510萬美元的罰款，原因是他們在2020年美國大選前撥打了1,100多次自動撥號電話。這些電話試圖阻止潛在選民通過郵寄投票。
今年1月23日，新罕布殊爾州進行總統初選前，突然有冒充拜登的AI自動語音電話，呼籲民眾切勿在初選中投票。該語音電話告訴選民說，「重要的是，你要把這一票保留到11月大選」，「在這個周二投票，只會讓共和黨人再次選出川普。你這一票可以左右11月大選，而非這個周二（的初選）」。
這通電話第一句話是「真是一派胡言（malarkey）」，而「一派胡言」是拜登經常使用的詞彙。
新罕布殊爾州總檢察長表示，「雖然自動語音電話中的聲音聽起來像是拜登總統，但根據初步調查，這條信息似乎是人工生成的。」
州檢察長表示，他們已向「企圖壓制選民」的方向展開調查。
