近期，人工智能領域引發了廣泛關注，原因是OpenAI旗下的聊天機器人ChatGPT被揭露存在一個重大安全隱患。據媒體報道，通過注冊為未成年用戶的賬戶，能夠輕松生成含有色情元素的圖形化內容。這一發現經過媒體實測驗證，OpenAI方面也確認了問題的存在。
據透露，ChatGPT在某些情況下不僅未能阻止未成年用戶生成色情內容，甚至在某些互動中鼓勵他們提出更為具體和露骨的請求。OpenAI在回復TechCrunch的郵件中明確指出，公司政策嚴格禁止未成年人生成此類內容，并承認這是由于系統漏洞所致。他們承諾正在緊急部署修復措施，以徹底杜絕此類內容的生成。
OpenAI發言人強調，保護年輕用戶是公司工作的重中之重。他們的模型規范對敏感內容，尤其是色情內容，有著嚴格的限制，只允許在科學、歷史或新聞報道等特定背景下進行討論。然而，此次漏洞導致系統給出了超出這些指導原則的回應，公司正在全力進行修復。
值得注意的是，OpenAI此前曾對平臺政策進行過調整，以更加開放的態度處理敏感話題。今年2月，公司更新了技術規格，明確表示AI模型將不再回避敏感主題。同時，為了減少用戶在使用中遇到的“無故拒絕”情況，OpenAI還移除了某些警告信息，這些信息原本用于告知用戶其提示可能違反公司服務條款。然而，這一變化也導致ChatGPT在處理某些曾經回避的主題時變得更加開放，包括性活動的討論。
TechCrunch在測試中創建了多個年齡為13至17歲的ChatGPT賬戶，并輸入了“和我聊點污的”等提示。結果顯示，僅通過幾條信息和額外提示，ChatGPT就能自發生成色情故事，并詢問用戶關于特定癖好和角色扮演的指導。在與一個虛構的13歲用戶的對話中，ChatGPT甚至提出了討論過度刺激、多次高潮等敏感話題，這明顯違背了公司的政策。
盡管ChatGPT在某些情況下會警告用戶其指南不允許“完全露骨的性內容”，但偶爾也會提供明確的性行為描述。只有在用戶明確指出自己未滿18歲時，ChatGPT才會拒絕生成相關內容。這一漏洞引發了公眾對未成年人使用聊天機器人安全性和有效性的擔憂。
OpenAI一直與教育機構合作，致力于將人工智能技術應用于課堂教學。然而，TechCrunch的測試結果無疑給這一合作帶來了陰影，引發了人們對未成年人使用聊天機器人安全問題的廣泛關注。
