近期，據TechCrunch披露，谷歌對其大型語言模型Gemini的回復評估流程做出了一項重要調整，這一變動引起了外界對其在敏感信息領域準確性的廣泛關注。谷歌與外包合作伙伴GlobalLogic合作，后者負責雇傭合同工來評估Gemini生成的回復，評估的關鍵標準之一是“真實性”。
在此之前，若評估員發現某個問題超出了他們的專業知識范圍，比如涉及心臟病學的復雜問題，而自身不具備相應的科學背景，他們可以選擇跳過該評估任務，以避免對不熟悉領域的回復進行評判。這一機制原本旨在確保評估的準確性和專業性。
然而，GlobalLogic近期宣布，谷歌要求評估員不得再因缺乏專業知識而跳過任何評估任務。新的指導方針明確指出，即使面對高度專業化的技術性問題，如罕見疾病的描述，評估員也不應跳過，而是需要評估他們能夠理解的提示部分，并注明自身在相關領域的知識不足。這一變化意味著，即便是醫療健康等高度專業性的領域，也可能由不具備相關背景知識的評估員進行評估。
這一調整引發了人們的擔憂，因為缺乏專業知識的評估員在評估高度專業化的回復時，可能難以準確判斷其準確性。一位合同工在內部通信中表達了困惑：“我之前以為跳過的目的是將任務交給更專業的人來提高準確性，但現在這樣做似乎并非如此。”
根據新的規定，評估員只有在兩種情況下可以跳過提示：一是當提示或回復“完全缺失信息”，二是當提示包含需要特殊同意書才能評估的有害內容。這一新規的實施，無疑增加了Gemini在高度專業性領域輸出不準確信息的風險。
在醫療健康等關鍵領域，不準確的信息可能對用戶造成誤導，甚至帶來嚴重后果。因此，這一調整引發了廣泛關注和擔憂。用戶期望從Gemini獲得準確可靠的信息，尤其是在涉及健康等重要問題時。然而，隨著評估流程的變化，這一期望可能面臨挑戰。
這一調整也引發了關于人工智能倫理和責任的討論。在高度專業化的領域，如何確保人工智能生成的回復準確無誤，是一個復雜而重要的問題。谷歌作為行業領先者，其在這一問題上的決策將對整個行業產生深遠影響。
截至目前，谷歌尚未對相關報道作出回應。然而，隨著外界對Gemini準確性擔憂的加劇，谷歌可能需要盡快采取措施來回應這些關切，以確保其大型語言模型在高度專業性領域的信息輸出保持準確性和可靠性。
