蒙大拿州的一家餐廳近日遭遇了來自谷歌人工智能（AI）概覽系統的困擾，餐廳老板伊娃·甘農公開呼吁顧客停止使用該功能查詢其餐廳的每日特價信息。據甘農透露，谷歌的AI系統頻繁向顧客提供錯誤的優惠信息，甚至編造出并不存在的菜單選項，導致餐廳員工頻繁受到顧客的責難。
甘農在接受First alert4采訪時表達了自己的無奈。她指出，谷歌AI系統曾錯誤地宣傳餐廳以大份披薩的價格出售小份披薩，這樣的虛假信息讓餐廳陷入尷尬境地。“作為一家小企業，我們根本無力兌現這些由谷歌AI制造出的特別優惠。”甘農向當地電視臺訴苦，并強調餐廳無法控制谷歌發布的內容。
為了糾正這一狀況，餐廳在Facebook上發布了一篇語氣堅決的帖子，明確指出谷歌AI提供的信息并不準確，并懇請顧客通過訪問餐廳的Facebook頁面或官方網站來獲取正確信息。甘農希望通過這種方式，減少因錯誤信息導致的顧客誤解和不滿。
谷歌AI系統的這一問題，其實是一種被稱為“幻覺”的缺陷，它常見于人工智能聊天機器人和大型語言模型中。這些系統會生成看似合理但實際上完全錯誤的信息。盡管谷歌AI概覽因不穩定性和頻繁出錯而飽受譏諷，例如曾建議顧客在披薩上涂抹膠水，但許多用戶似乎仍未意識到這些工具的不可靠性。
Stefanina's Wentzville餐廳并非唯一受到谷歌AI系統影響的商家。今年早些時候，明尼蘇達州的一家太陽能公司也曾因谷歌AI概覽系統散布關于該公司的虛假信息而提起誹謗訴訟。該系統錯誤地聲稱該公司面臨欺詐性銷售行為的訴訟，對公司的業務造成了損害。
盡管谷歌正在大力推廣其AI模式，鼓勵用戶“先問問谷歌”，并宣布AI模式現在可以幫助用戶預訂餐廳，但這些失誤案例表明，用戶在使用這些AI工具時仍需謹慎。不應完全依賴它們來獲取事實信息或做出重要決策，以免因錯誤信息而陷入不必要的麻煩。
