一名67歲農民使用某款未具名AI應用約1年後，開始相信它能解決實際生產問題。他種下新一季芝麻，向AI詢問怎樣同時防治雜草和害蟲。AI給出一套化學藥劑混合方案，他照着配製，並在約150畝土地上全面噴灑。
第二天，藥劑確實殺死了雜草，芝麻幼苗也開始成片枯死。當事人回憶，草和幼苗都會死，而且幼苗死得更快。原本用於保護作物的操作，幾乎毀掉整塊田地。
他再次詢問AI原因，系統才表示，此前推薦的成分之一氟磺胺草醚可能造成損害。農業專家解釋，這種化學品主要用於控制大豆田裏的闊葉雜草，而芝麻本身也是闊葉植物，同樣會受到影響。即便其他適用作物需要使用，也必須定向噴灑，不該像這次一樣覆蓋整片田地。
風險並不藏在極罕見的化學反應里，而在作物類別、藥劑作用對象和施用範圍之間的基本衝突。回答若只拼出一張看似完整的配方，卻沒有核對目標植物是否同樣會被殺死，也沒有區分局部點噴與全田噴灑，執行越徹底，損失反而越大。
農民表示，AI沒有清楚警告這套方案可能讓芝麻死亡。聊天界面只有一句通用提示：「AI生成內容可能有誤，請核實。」這類免責聲明能說明系統並不保證正確，卻無法替用戶完成核實，也不會在高風險建議出現時自動阻止執行。對於農業用藥，劑量、作物、生長階段、天氣、土壤和施用方式都會改變結果，一句籠統提示無法替代專業判斷。
事故發生在安徽省滁州市。吳姓農戶約1年前開始用AI諮詢農時安排、施肥和農藥，起初半信半疑，後來幾乎大小農事都問。事發前一個月10日，他詢問芝麻除草和除蟲，系統生成一套「百畝芝麻飛防除草加除蟲全套方案」，列出高效氟吡甲禾靈、氟磺胺草醚、噻蟲嗪和甲維鹽等藥劑，卻沒有給出足夠醒目的作物禁忌。
事故後，當地農技人員確認，氟磺胺草醚主要用於大豆田防除闊葉雜草。涉事軟件客服則稱，系統沒有獨立知識庫，回答主要整合網絡公開信息，並表示會核查信息來源、登記農戶損失並向內部反映。報道沒有說明最終賠償結果，具體經濟損失也未公佈。
當事人最初並不完全信任AI。過去1年裏，一些回答確實幫到過他，懷疑才逐漸變成依賴。連續的小成功容易讓人高估系統在陌生領域的可靠性，直到一次不可逆操作暴露邊界。農田不像聊天窗口，錯誤答案無法通過重新提問撤回。
AI正快速進入日常場景，既被用於全天候生成電視內容，也開始協助處理911緊急呼叫。用途越接近醫療、農業和公共安全，錯誤的現實代價越高。這次事故沒有證明AI不能提供任何參考，卻清楚顯示，涉及化學品和大面積生產時，模型建議只能作為待核實線索，不能直接當作施工作業單。
