近期，隨著醫療資源面臨壓力，包括長時間等待和高昂成本在內的諸多問題日益凸顯，越來越多的民眾開始嘗試利用人工智能聊天機器人，如ChatGPT，進行自我診斷。最新數據顯示，美國約有六分之一的成年人每月至少一次利用這類機器人獲取健康建議。
然而，對聊天機器人輸出的過度信賴可能潛藏風險。牛津大學主導的一項研究顯示，用戶在與聊天機器人交流時，往往難以提供足夠的關鍵信息，從而妨礙了獲取最佳健康建議的可能性。
牛津互聯網研究所的研究生項目主任亞當·馬赫迪在接受采訪時指出，這項研究揭示了雙向溝通的障礙。他表示，使用聊天機器人的人并未比依賴傳統方法（例如在線搜索或自行判斷）的人做出更明智的決策。
為了進行這項研究，研究人員招募了約1300名英國參與者，并向他們提供了由醫生設計的醫療場景。參與者需要識別潛在的健康狀況，并借助聊天機器人及自己的方法來決定行動方案，比如是否就醫。
研究中，參與者使用了包括GPT-4在內的多種人工智能模型。研究結果顯示，聊天機器人不僅讓參與者更難識別相關健康狀況，還導致他們低估了已識別健康問題的嚴重性。
馬赫迪強調，參與者在向聊天機器人提問時經常遺漏重要細節，或收到難以理解的回答。他指出，聊天機器人提供的建議往往好壞參半，而目前的評估方法未能反映出與人類用戶互動的復雜性。
與此同時，科技公司正積極推動人工智能在改善健康狀況方面的應用。例如，蘋果正在開發一款提供運動、飲食和睡眠建議的人工智能工具；亞馬遜則在探索利用人工智能分析醫療數據庫中的健康社會決定因素；微軟則協助構建能夠對患者發送給護理提供者的消息進行初步分類的人工智能。
然而，無論是醫療專家還是患者，對于人工智能是否已準備好應用于高風險健康領域，都存在不同看法。美國醫學協會建議醫生不要使用ChatGPT等聊天機器人輔助臨床決策，而包括OpenAI在內的主要人工智能公司也發出警告，不要僅憑聊天機器人的輸出結果進行診斷。
