2 月 1 日消息，人工智能研究初創(chuàng)公司 OpenAI 周二推出了一個(gè)工具，旨在弄清文本是人類還是計(jì)算機(jī)寫的。
OpenAI 是 ChatGPT 背后的公司，ChatGPT 是一個(gè)聊天機(jī)器人，可以根據(jù)提示生成像是人類寫的文字，在兩個(gè)月前發(fā)布后迅速走紅。上周微軟宣布對(duì) OpenAI 進(jìn)行數(shù)十億美元的投資，并表示將把這家初創(chuàng)公司的人工智能模型納入其面向消費(fèi)者和企業(yè)的產(chǎn)品。
自從 ChatGPT 在 11 月首次亮相以來(lái)，包括紐約市在內(nèi)的一些美國(guó)最大的學(xué)區(qū)已經(jīng)禁止了這種人工智能聊天機(jī)器人，因?yàn)樗鼈儞?dān)心學(xué)生會(huì)利用文本生成器作弊或剽竊。
OpenAI 的首席執(zhí)行官 Sam Altman 說(shuō)，過(guò)去在計(jì)算器等技術(shù)出現(xiàn)后，教育已經(jīng)發(fā)生了變化，但他也表示，該公司可能有辦法幫助教師發(fā)現(xiàn)人工智能編寫的文本。
OpenAI 的這個(gè)新工具并不完美，該公司稱其仍然在研發(fā)優(yōu)化中，使用過(guò)程中可能會(huì)出錯(cuò)。“在我們對(duì)英語(yǔ)文本的‘挑戰(zhàn)集’的評(píng)估中，我們的分類器正確地將 26% 的人工智能寫的文本（真陽(yáng)性）識(shí)別為‘可能是人工智能寫的’，而將人類寫的文本錯(cuò)誤地標(biāo)記為人工智能寫的占 9%（假陽(yáng)性），”OpenAI 員工寫道。
新工具在分析包含少于 1000 個(gè)字符的文章方面并不可靠，而且 OpenAI 不建議將其用于英語(yǔ)以外的語(yǔ)言。此外，來(lái)自人工智能的文本可以稍作更新，就會(huì)使分類器不能正確判斷它不是人類的作品。
OpenAI 表示，它正在與教育工作者接觸，討論 ChatGPT 的能力和局限性，并將繼續(xù)致力于檢測(cè) AI 生成的文本。
IT之家了解到，早在 2019 年，OpenAI 就明確表示，識(shí)別人工智能合成的文本不是一件容易的事。OpenAI 員工稱：“我們?cè)跈z測(cè)人工智能生成的文本方面的工作將繼續(xù)進(jìn)行，我們希望在未來(lái)分享改進(jìn)的方法。”
【來(lái)源：IT之家】
