馬斯克說了一句讓整個AI安全圈不安的話

馬斯克說了一句讓整個AI安全圈不安的話： 你根本無法控制一個比你更聰明的東西。 他的類比很直接：想像你有一個天才孩子，你知道他終將遠超你的智識水平——你能做什麼？ 不是規則，不是限制，不是緊急關閉按鈕。 只有在他還小的時候，把正確的價值觀裝進去。 誠實、利他、有道德。 現在全球的AI安全討論都在設計控制機制，但控制的前提是你比它聰明。 那個前提，正在消失。 留給"把價值觀裝進去"的窗口，快關上了。