近期，一起涉及百度網盤的事件在網絡上引發了廣泛關注。據報道，用戶小美在瀏覽百度網盤首頁的“往年今日”功能時，意外發現自己的懷孕照片被配上了極具爭議的文案——“腦子不夠，肚子來湊”。小美認為，這段文案不僅具有侮辱性，而且缺乏對孕婦的尊重，因此她決定不再使用百度網盤，并要求取消會員并退還費用。
面對小美的投訴，百度網盤客服表示了歉意，但并未同意其退款要求。此事迅速在網絡上發酵，引發了關于AI生成內容監管和審核機制的廣泛討論。許多網友認為，AI雖然能夠自動生成文案，但必須具備更高的情商和道德標準，以避免對用戶造成不必要的傷害。
實際上，這并不是人工智能首次因低情商回復或惡言而引發爭議。此前，美國密歇根州的一名大學生在與谷歌AI聊天機器人Gemini的對話中，也遭遇了令人震驚的回復。Gemini在對話中稱人類為“時間和資源的浪費”、“社會的負擔”，甚至勸其“死去吧”。這一回復迅速引發了公眾的強烈不滿和譴責。
谷歌在事后回應稱，Gemini配備了安全過濾器，旨在防止其參與失禮或涉及性、暴力和危險行為的討論。然而，這一事件仍然暴露了大型語言模型在生成內容時的潛在風險。谷歌表示，他們已經采取措施以防止類似內容的再次出現，并加強對Gemini的監管和審核。
早在今年7月，Gemini就曾因給出錯誤的健康建議而引發爭議。當時，它建議人們每天至少吃一塊小石子以補充維生素和礦物質，這一建議顯然是不科學且有害的。谷歌在事后對Gemini的健康問題回復進行了限制，以避免類似事件的再次發生。
這兩起事件再次引發了人們對于AI倫理和監管的關注。隨著人工智能技術的不斷發展，其在各個領域的應用也越來越廣泛。然而，如何確保AI在生成內容時具備足夠的情商和道德標準，以避免對用戶造成不必要的傷害，仍然是一個亟待解決的問題。
