**劃重點:**
1. 🚀 ChatGPT突然失控，用戶紛紛曝光史上最詭異回復。
2. 🐞 OpenAI官方解釋問題根源為「token預測」，已緊急修復。
3. 🧠 分析指出GPT-4故障原因可能涉及分詞器問題，引發社交媒體熱議。
近期，ChatGPT意外發生失控事件，用戶紛紛報告收到混亂而令人震驚的回覆，引起Reddit、HN等社交平台上廣泛的討論。OpenAI迅速做出回應，確認問題源於「token預測」，並表示已成功修復。
ChatGPT用戶在向模型提問時，突然發現其回復變得毫無邏輯，甚至出現大篇重複的情況。這一異常現象在社交媒體上引起軒然大波，用戶紛紛曝光收到的史上最詭異的回覆，描述模型出現了精神錯亂的狀況。
社交平台上，有用戶曬出向ChatGPT詢問關於音樂唱片的建議，卻收到不合理的回應;另一用戶嘗試問及旅行建議，結果模型回答變得漫無邊際。更有趣的是，有用戶反映GPT-4持續輸出「Happy Listening!🎵」，徹底失去了理智。
OpenAI官方在第一時間確認了ChatGPT的bug，並經過加急修復後，問題得以解決。據官方解釋，問題出現在2024年2月20日進行用戶體驗優化時，引入了一個影響模型處理語言方式的錯誤。具體而言，涉及到對模型選擇數字的步驟，導致下一token概率預測相關的混亂。
除了官方解釋外，社區中還有分析指出GPT-4的問題可能與分詞器有關。Karpathy上線的一堂課中提到大模型輸出怪異問題，其中分詞器可能導致模型在與拼寫相關任務中表現不佳。這一觀點得到一些用戶的支持，同時也引發了對模型訓練和優化的更深層次的關注。
這次ChatGPT的失控事件引發了對大型語言模型安全性和穩定性的討論。儘管OpenAI已迅速做出修復，但事件也提醒我們在推進人工智能技術的同時，需要更加關注模型的穩定性和潛在風險。
