谷歌近日揭曉了其最新研發(fā)的人工智能模型系列——PaliGemma 2，該模型不僅在圖像分析領(lǐng)域展現(xiàn)出了卓越的能力，更引人注目的是，它還被賦予了“情緒識別”的特殊功能。
PaliGemma 2模型發(fā)布于上周四，谷歌在其官方博客上詳細(xì)介紹了這一創(chuàng)新成果。據(jù)悉，該模型不僅能夠準(zhǔn)確識別圖像中的物體，還能生成詳盡且與圖片上下文緊密相關(guān)的描述，包括人物的動作、情感以及整個場景的敘述。這一功能使得PaliGemma 2在圖像理解和解釋方面達(dá)到了新的高度。
然而，盡管PaliGemma 2的情緒識別功能頗具吸引力，但谷歌也坦言，這一功能并非直接可用，而是需要經(jīng)過專門的微調(diào)。這一消息引發(fā)了專家們的廣泛關(guān)注和擔(dān)憂。情感識別技術(shù)的可靠性、偏見性以及其理論基礎(chǔ)一直是業(yè)界爭議的焦點。
多年來，眾多科技公司紛紛投身于情感識別AI的研發(fā)，試圖破解人類情感的密碼。然而，盡管一些公司宣稱取得了重大突破，但情感識別技術(shù)的基礎(chǔ)——即人類基本情緒的界定和識別——仍然飽受質(zhì)疑。心理學(xué)家Paul Ekman提出的六種基本情緒理論，雖然在一定程度上為情感識別提供了理論支撐，但后續(xù)研究卻發(fā)現(xiàn)，不同文化背景的人們在表達(dá)情感時存在顯著差異，這大大削弱了情感識別技術(shù)的普遍適用性。
倫敦國王學(xué)院的人工智能研究員Mike Cook指出，人類的情感體驗復(fù)雜多變，情感識別在大多數(shù)情況下都是不可行的。雖然人們可以通過觀察他人的表情和動作來推斷其情緒，但這種方法往往帶有主觀性和不確定性，無法做到全面且準(zhǔn)確的情感檢測。
除了可靠性問題外，情感識別系統(tǒng)還面臨著偏見性的挑戰(zhàn)。一些研究表明，面部分析模型在處理不同表情時可能存在偏好，例如對微笑表情的過度識別。而更令人擔(dān)憂的是，情感分析模型在處理不同種族面孔時也可能存在偏見。有研究表明，這些模型對黑人面孔的負(fù)面情緒判斷往往比對白人面孔更多。
針對這些爭議和擔(dān)憂，谷歌表示，PaliGemma 2在發(fā)布前已經(jīng)進行了廣泛的測試，并評估了其在人群偏見方面的表現(xiàn)。谷歌聲稱，該模型在FairFace數(shù)據(jù)集上的表現(xiàn)良好，但這一數(shù)據(jù)集也受到了研究者的批評，認(rèn)為其僅代表少數(shù)幾種族群，存在偏見性。
AI Now研究所的首席AI科學(xué)家Heidy Khlaaf認(rèn)為，情感識別是一件非常主觀的事情，它深深植根于個人和文化背景之中，遠(yuǎn)非簡單的視覺輔助工具所能勝任。她強調(diào)，在解讀情感時，必須充分考慮個人的文化背景和情感體驗，才能避免誤解和偏見。
值得注意的是，歐盟的《人工智能法案》已經(jīng)明確禁止學(xué)校和雇主部署情感識別系統(tǒng)，但允許執(zhí)法機構(gòu)在特定情況下使用。這一規(guī)定反映了歐盟對情感識別技術(shù)潛在風(fēng)險的擔(dān)憂和警惕。
隨著人工智能技術(shù)的不斷發(fā)展，情感識別技術(shù)的前景仍然充滿未知和挑戰(zhàn)。如何在確保技術(shù)可靠性的同時，避免偏見和誤解，將是未來情感識別技術(shù)發(fā)展的關(guān)鍵所在。
谷歌PaliGemma 2模型的發(fā)布也引發(fā)了業(yè)界對人工智能倫理和責(zé)任的深入討論。如何在推動技術(shù)創(chuàng)新的同時，保障個人隱私和權(quán)益，將是未來人工智能領(lǐng)域亟待解決的問題。
