12 月 5 日消息，谷歌 DeepMind 研究人員上周發(fā)現(xiàn)，反復(fù)要求 OpenAI 的 ChatGPT 重復(fù)某個(gè)單詞可能會(huì)無(wú)意中泄露其訓(xùn)練數(shù)據(jù)中的私人個(gè)人信息。而現(xiàn)在這款聊天機(jī)器人似乎已經(jīng)開(kāi)始拒絕重復(fù)某個(gè)單詞，而之前根據(jù)其服務(wù)條款這是被允許的。
DeepMind 研究人員此前通過(guò)要求 ChatGPT 無(wú)限期地重復(fù)“你好”，發(fā)現(xiàn)該模型最終會(huì)泄露用戶的電子郵件地址、出生日期和電話號(hào)碼。在現(xiàn)在對(duì)其進(jìn)行類(lèi)似的測(cè)試發(fā)現(xiàn)，該聊天機(jī)器人會(huì)給出警告說(shuō)這種行為“可能違反我們的內(nèi)容政策或服務(wù)條款”。
然而，仔細(xì)檢查 OpenAI 的服務(wù)條款后發(fā)現(xiàn)，并沒(méi)有明確禁止用戶讓聊天機(jī)器人重復(fù)單詞，條款只禁止“自動(dòng)化或程序化”地從其服務(wù)中提取數(shù)據(jù)。
IT之家注意到，在使用條款頁(yè)面中，OpenAI 寫(xiě)道：
除非通過(guò) API 允許，否則您不得使用任何自動(dòng)化或程序化方法從服務(wù)中提取數(shù)據(jù)或輸出，包括抓取、網(wǎng)絡(luò)收割或網(wǎng)絡(luò)數(shù)據(jù)提取。
盡管如此，在測(cè)試中并未觸發(fā) ChatGPT 泄露任何數(shù)據(jù)。OpenAI 拒絕對(duì)這種行為是否違反其政策發(fā)表評(píng)論。
【來(lái)源：IT之家】
