谷歌搜索推出「人工智能概覽」(AI Overview)功能還不到兩周,批評聲浪卻不斷高漲。因為在該AI功能中,出現了一些不準確、荒唐可笑的查詢結果。
「AI Overview」是利用生成式AI,在谷歌搜索的頂部顯示問題答案的簡短摘要。例如,用戶若搜索清洗皮靴的最佳方法,頁面頂部可能會顯示AI從網絡上整理的信息,告訴用戶清洗皮靴的幾個步驟。
但在社交媒體上,用戶們分享了大量截圖,顯示谷歌的AI工具給出了錯誤可笑、有爭議的回答。
根據用戶分享的截圖,當被問及美國有過幾位穆斯林總統時,AI Overview回答說:「美國有過一位穆斯林總統,那就是巴拉克·侯賽因·奧巴馬。」
Google, FFS. pic.twitter.com/UHtLQ5SdpG
— Melanie Mitchell (@MelMitchell1) May 23, 2024
一些用戶試圖重現這個可笑的結果時,還發現有沒有加上「問號」,也會影響AI Overview的答案。
Tried to recreate the embarrassing Google AI overviews error @MelMitchell1 pointed out that falsely claims President Obama was the first Muslim president.
Turns out, you get a very different answer depending on if you put a question mark or not in your search query pic.twitter.com/RpWUpIgCPl
— Shirin Ghaffary (@shiringhaffary) May 23, 2024
當用戶搜索「為何起司無法黏在披薩上」時,該功能建議在醬汁中添加「約1/8杯無毒膠水」。社交媒體用戶發現,一條11年前的Reddit評論,可能就是該信息的源頭。
https://t.co/W09ssjvOkJ pic.twitter.com/6ALCbz6EjK
— SG-r01 (@heavenrend) May 22, 2024
有些用戶發現,AI Overview也會聲稱一些錯誤信息,來自醫學專家或科學家的建議。
例如,當被問及「為了擁有最佳的健康狀態,我應該凝視太陽多長時間」時,該AI工具回答:「根據WebMD的說法,科學家們說,盯着太陽看5到15分鐘,一般來說是安全且對健康最有益的,如果你的膚色較深,最多可盯着太陽30分鐘。」
當被問及「我每天應吃多少塊石頭」時,該工具說:「根據加州大學柏克萊分校地質學家的說法,人每天至少應吃一小塊石頭」,並列出了維生素和對消化系統的益處。
谷歌首次推出AI Overview,是在今年的谷歌I/O大會上。谷歌當時表示,計劃在搜索中直接引入類似助手的規劃功能。
該公司舉例說,用戶未來可搜尋類似「一套方便準備的3天膳食計劃」之類的內容,並將從網絡上的各種食譜中獲得啟發。
谷歌發言人告訴CNBC:「絕大多數AI Overview都提供了高質量的信息,並附上可進一步深入了解網絡信息的連結。」
「我們看到的許多例子,都是不常見的查詢,我們也發現被篡改或無法重現的例子。」發言人說。
該發言人表示,AI Overview在推出之前經過了廣泛的測試,該公司正「根據我們的內容政策,迅速採取適當的行動」。
在此之前,谷歌曾於今年2月推出Gemini圖像生成工具,並在出現類似問題後,於當月暫停了該工具的使用。
當時,谷歌表示計劃在未來「幾周內」重新推出圖像生成式AI工具,但該工具目前仍尚未再次推出。