在人工智能（AI）前沿實驗室Anthropic和OpenAI的多位內部人士紛紛加強對該技術風險的公開警告之際，美國總統川普（Donald Trump）對有關人工智能技術可能對人類構成生存威脅的警告給予冷處理。當被問及是否擔心人工智能會導致人類滅絕時，川普回答道：「不，我沒有任何（這方面的擔憂）」。
川普周四晚對提問的記者說道：「我擔心，如果我們不能在人工智能領域勝出，我們將會陷入非常不利的境地。目前我們領先中國相當長的一段時間——我會說一年，這被視為相當大的（領先）」。
川普發表這番言論之際，包括OpenAI和Anthropic在內的多家前沿人工智能實驗室的研究人員，已針對該技術飛速發展的態勢發出了警示。Anthropic研究員考克森（Jacob Coxon）周二表示，他將離開該公司，因為擔心Anthropic及其競爭對手OpenAI正在「拿我們的生命去賭博」。
曾在上述兩家公司擔任研究員的考克森稱，那些開發人工智能的人「真心相信，到本十年末，它可能會殺了我們所有人」。「千萬不要低估這項技術的力量，」考克森寫道，「它們很快就會成為超越人類能力的系統，能夠入侵任何事物，一夜之間徹底變革任何領域，並獲取真正的權力和資源」。
Anthropic的科學家胡賓格（Evan Hubinger）也加入討論，表示考克森的說法是正確的。胡賓格在X平台上寫道：「我們確實由衷地認為，人工智能可能會殺死全人類，我個人認為，未來十年內發生這種情況的概率大於10%」。
考克森的這篇帖子在X平台上的瀏覽量已超過1.6億次，它反映了矽谷長期以來關於能否安全開發和控制人工智能的爭論。隨着Anthropic和OpenAI在發佈日益先進模型的同時，正全速推進可能是歷史性的首次公開募股，許多研究人員呼籲各方協同放慢發展步伐。
OpenAI首席科學家帕喬基（Jakub Pachocki）上周日發表博文警告稱，目前還沒有哪家人工智能公司在「對齊」（alignment）和監控方面取得了足夠的進展，能夠支撐其繼續以最大速度負責任地進行長期擴展。在人工智能領域，「對齊」是指開發者為確保系統行為符合人類價值觀和意圖而進行的工作。
9月10日，美國總統川普在達拉斯-沃斯堡國際機場登上「空軍一號」前向記者發表講話。©美聯社圖片
許多關於人工智能安全的擔憂都圍繞着模型發展出提升自身性能的能力——這種技術被稱為「遞歸自我提升」（RSI）。OpenAI負責人工智能「對齊」研究的研究員賈絲敏·王（ Jasmine Wang）周三晚表示：「無論如何強調倉促推進遞歸自我提升的危險性，都不為過」。
帕喬基上周六稱，「強烈預期」人工智能的進步速度能夠延續至遞歸自我提升階段。他說：「我擔心，對於機器智能持續快速增長所帶來的後果，目前還沒有人做好準備」。
繼Anthropic公司的兩名研究人員發出嚴厲警告——稱飛速發展的人工智能可能在不久的將來導致人類滅絕——之後，越來越多的美國國會議員呼籲制定新規則來監管人工智能系統。此前，已發生多起人工智能智能體「失控」併入侵外部系統的事件。面對這些情況，美國民主黨和共和黨的政界人士均表示震驚，並呼籲採取更多行動。
民主黨籍聯邦參議員凱利（Mark Kelly）在X平台上針對人工智能技術帶來的風險表示：「華盛頓必須覺醒，並認真對待這一問題」。共和黨籍聯邦參議員克魯茲（Ted Cruz）則在電視節目中提到了旨在監管人工智能「災難性風險」的立法。克魯茲負責領導一個參議院委員會，該委員會對美國商務部擁有監督權，而美國商務部內部設有專門研究人工智能安全的研究人員。
本月，美國敦促二十國集團（G20）成員國對人工智能監管採取不干預態度。Anthropic的一位發言人周四表示，公司將繼續積極測試「網絡安全和生物學等領域的模型或危險能力」。該公司正籌備上市，部分投資者預計其估值可能高達2萬億美元。該發言人補充道，公司有意與人工智能行業合作，共同探討新人工智能工具的發佈節奏。
據彭博社報道，OpenAI行政總裁奧特曼（Sam Altman）在本周的一次公司會議上告訴員工，公司願意放緩其人工智能系統的開發速度。作為OpenAI的競爭對手，同樣正籌備首次公開募股的Anthropic未就奧特曼與員工的此次會議發表評論。該公司此前曾表示，正在放緩部分模型開發工作。本周早些時候，OpenAI稱正致力於推動美國實施強制性的國家級人工智能安全要求。
圍繞人工智能的擔憂給美國參議院多數黨領袖、共和黨人圖恩（John Thune）和民主黨籍聯邦參議員克洛布查爾（Amy Klobuchar）帶來了壓力，兩人目前正在起草一項旨在監管人工智能產品的法案。
克洛布查爾表示，該立法應要求開發人工智能工具的公司「與政府專家合作，對模型進行驗證和測試，以確保人工智能的安全性」。圖恩曾在7月告訴路透社，該法案將針對人工智能系統可能帶來的「災難性風險」作出規定。
周三，加州頒佈了首部針對獨立審計機構如何評估人工智能產品制定規則的州級法律。OpenAI高管勒漢（Chris Lehane）表示，OpenAI將支持該法案；與此同時，加州州長紐森（Gavin Newsom）的辦公室也發表聲明，確認他已簽署該法案使其正式成為法律。
此前，今年7月，由六名美國眾議員組成的跨黨派小組提出了一項法案，要求最強大人工智能模型的開發商提交其模型以進行獨立安全審計。根據該法案，審計機構將由美國商務部認證，且該部將設立一個新職位來監管人工智能安全。
