日前，來自路透社的一則報道稱，Google AI部門要求其研究人員在人工智能的論文中給出“樂觀態(tài)度”的基調(diào)。
這主要來自對包括面孔、性感分析，以及性別、種族、意識形態(tài)等在內(nèi)的敏感話題類的研究論文增加的一道審查，在此之前研究人員還需要先咨詢法律、政策和公司的公關(guān)部門。
該規(guī)定其中有一頁這樣寫道：“技術(shù)的進步和外部日益復雜的環(huán)境情況，導致看似有冒犯性的研究項目引發(fā)道德、聲譽、法律法規(guī)等問題。”
路透社稱，現(xiàn)無法確定詳細頒發(fā)日期，根據(jù)已知的三名現(xiàn)任員工給出的信息來看該規(guī)定始于今年6月。
此外，員工還被多次要求“不要以消極的態(tài)度闡述技術(shù)”。
比如，負責推薦算法論文的研究人員被告知“要格外小心，表現(xiàn)出積極的語氣”，該推薦算法主要用于對YouTube等平臺上的內(nèi)容進行個性化推薦。最終，該作者采取的措施為“將論文中有關(guān)谷歌產(chǎn)品的所有引用全部刪除”。
路透社還寫道，另一篇有關(guān)語言理解算法的論文“淡化了對Google Translate這一產(chǎn)品出錯的引用”，進行修改是為了響應審核人員的要求。
一直以來，谷歌的標準審核過程旨在確保研究人員不會無意間泄露商業(yè)秘密，但“敏感類主題”的審核卻不僅僅限于此。目前來看，谷歌還希望評估自己的產(chǎn)品服務抹去偏見的基調(diào)，這些敏感類主題包括“國家、石油工業(yè)、位置數(shù)據(jù)、宗教和以色列”。
實際上，自從12月初AI倫理專家Timnit Gebru被解雇以來，這家搜索巨頭的動作一直備受關(guān)注。Gebru此前曾說，她因發(fā)送給Google AI研究人員內(nèi)部小組Google Brain Women and Allies listserv的電子郵件而被終止。這封郵件中，她談到了谷歌經(jīng)理敦促她撤回有關(guān)大規(guī)模語言處理模型危險性的論文。Google AI的掌門人Jeff Dean說，她在截止日期之前提交了這篇論文。不過，Gebru的團隊拒絕了這一主張，稱該規(guī)定存在“不公正、歧視性”。
據(jù)華盛頓郵報此前報道，Gebru于今年9月份與谷歌的公關(guān)和政策小組聯(lián)系。她知道公司可能會對研究的某些方面產(chǎn)生疑問，因為谷歌在搜索引擎中使用了大型語言處理模型。對該論文進行修改的截止日期是2021年1月，直到研究人員有足夠的時間來解決這些問題。
然而，感恩節(jié)前一周，Google Research副總裁Megan Kacholia要求Gebru收回論文。第二個月，Gebru被解雇了。
【來源：雷鋒網(wǎng)】
