GPT-4可以用于制定內(nèi)容的政策，也可以執(zhí)行政策，為帖子添加標簽、或者做評判。AI target=_blank class=infotextkey>OpenAI人士稱，不需要雇幾萬審核員，人類可以做顧問，確保AI系統(tǒng)正常運行，判斷不能清晰界定的案例。
OpenAI正在試圖讓先進的人工智能（AI）工具幫忙做內(nèi)容審核。評論稱，它可能幫助企業(yè)提高效率，讓至今尚未給眾多企業(yè)創(chuàng)造大量收入的AI工具增添一個有用的功能。
OpenAI稱，一直在基于其最新AI模型GPT-4開發(fā)自己的內(nèi)容審核系統(tǒng)。GPT-4能協(xié)助企業(yè)進行內(nèi)容審核，可以用于制定有關(guān)何種內(nèi)容適合的政策，也可以執(zhí)行相關(guān)政策，為帖子添加標簽、或者做出評判。
OpenAI之前就在測試這種技術(shù)，也已邀請一些客戶做這種技術(shù)的試驗。OpenAI發(fā)現(xiàn)，其自有內(nèi)容審核系統(tǒng)比經(jīng)過適度培訓(xùn)的人類審核員表現(xiàn)得更好，但效率沒有最熟練的審核員高。
OpenAI稱，其工具有望幫助企業(yè)，在一天左右就完成原本需要六個月才能做完的工作。
OpenAI的安全系統(tǒng)負責(zé)人Lilian Weng稱，不需要雇用幾萬名審核員，人類可以充當(dāng)顧問，確保AI系統(tǒng)正常運行，并且對不能清晰界定的案例做出判斷。
OpenAI的產(chǎn)品政策經(jīng)理Andrea Vallone稱，OpenAI發(fā)現(xiàn)，GPT-4能高效地做審核內(nèi)容的工作。起草內(nèi)容審核政策和標記內(nèi)容通常耗時很久，而OpenAI的工具將幫助縮小需求和解決方案之間的差距。
目前Meta等大公司已經(jīng)在用AI幫助員工做審核。但OpenAI同時強調(diào)，審核的過程不應(yīng)該完全自動化。
Vallone表示，理想的情況下，員工可以運用AI將他們解放出來，更側(cè)重在對可能有內(nèi)容違規(guī)的極端案例如何做評判，以及怎樣完善內(nèi)容的政策。OpenAI將繼續(xù)進行人工審核，驗證一些AI模型的判斷。Vallone 說：“我認為，人類始終參與其中是很重要的。”
有評論認為，在生成式AI問世以前，內(nèi)容審核就已經(jīng)是一大挑戰(zhàn)。這種新技術(shù)的面世又帶來了虛假信息等問題內(nèi)容更容易出現(xiàn)的威脅，加劇了內(nèi)容審核面臨的挑戰(zhàn)。然而，由于AI的擴展能力，一些技術(shù)專家認為，AI是唯一可能解決虛假信息料將增多的手段。
