(ChinaZ.com) 7月25日消息:今年一月份，人工智能巨頭 OpenAI 宣布推出一款工具，可以通過檢測(cè)一段內(nèi)容是否是使用其自己的 ChatGPT 等生成式 AI 工具創(chuàng)建的。
然而，半年后，這個(gè)工具已經(jīng)被宣告死亡，因?yàn)樗鼰o(wú)法完成既定的任務(wù)。ChatGPT 的創(chuàng)造者 OpenAI 上周悄悄停用了其 AI 檢測(cè)工具 AI Classifier，原因是「其準(zhǔn)確率較低」，OpenAI 在首次宣布該工具的博客文章中添加了這一解釋。鏈接到 OpenAI 的 AI Classifier 的頁(yè)面也不再可用。
OpenAI 寫道：「我們正在努力吸納反饋意見，并且目前正在研究更有效的文本來源技術(shù)，我們承諾開發(fā)和部署機(jī)制，使用戶能夠了解音頻或視覺內(nèi)容是否為 AI 生成。」
每天都有新的工具上線，允許使用越來越復(fù)雜的人工智能，這已經(jīng)創(chuàng)造了一個(gè) AI 檢測(cè)器的產(chǎn)業(yè)。
OpenAI 表示，AI Classifier 的局限性包括在少于 1000 個(gè)字符的文本上不可靠，錯(cuò)誤地將人類寫的文本標(biāo)記為 AI 寫作，以及基于神經(jīng)網(wǎng)絡(luò)的分類器在其訓(xùn)練數(shù)據(jù)之外表現(xiàn)不佳。
一個(gè)對(duì)準(zhǔn)確檢測(cè) AI 敏感的領(lǐng)域是教育。自從 ChatGPT 在 11 月發(fā)布以來，教育工作者一直在警告學(xué)生不得使用這個(gè)聊天機(jī)器人來寫作文。
OpenAI 表示：「我們認(rèn)識(shí)到識(shí)別 AI 寫作文本一直是教育界的重要討論點(diǎn)，同樣重要的是認(rèn)識(shí)到課堂上 AI 生成文本分類器的限制和影響。」公司將在不斷拓展覆蓋范圍的同時(shí)，繼續(xù)吸取教訓(xùn)。
