【ITBEAR科技資訊】3月15日消息,近日,清華技術成果轉化的公司智譜 AI 宣布其研發的AI對話機器人ChatGLM已經開始內測。這款機器人是一個初具問答和對話功能的千億中英語言模型,具有雙語支持、高精度和快速推理等特性,同時還針對中文進行了優化。目前,ChatGLM已經開啟邀請制內測,并將逐步擴大內測范圍。
ChatGLM的開發采用了代碼預訓練和有監督微調等技術,使其能夠實現人類意圖對齊,生成符合人類偏好的回答。據介紹,這款機器人參考了ChatGPT的設計思路,并注入了獨特的千億基座模型GLM-130B,該模型包含多目標函數,是一個自回歸預訓練模型。
在2022年8月,GLM-130B1的中英雙語稠密模型被向研究界和工業界開放,該模型不同于BERT、GPT-3和T5的架構,具有雙語支持、高精度和快速推理等特性。在與OpenAI、谷歌大腦、微軟、英偉達和臉書等公司的大型模型對比中,評測報告顯示GLM-130B在準確性和惡意性指標上接近或持平于GPT-3 175B(davinci),并表現出良好的魯棒性和校準誤差。
據ITBEAR科技資訊了解,ChatGLM-6B是最新的中英雙語對話GLM模型,其62億參數的規模雖然不及千億模型,但降低了用戶部署的門檻,并且已經能生成相當符合人類偏好的回答。結合模型量化技術,用戶可以在消費級的顯卡上進行本地部署,INT4量化級別下最低只需6GB顯存。
未來,ChatGLM有望在解決客戶問題和提供個性化娛樂體驗等各種應用場景中發揮重要作用。由于其具有中英雙語支持、高精度和快速推理等特性,ChatGLM也有望成為國內外市場的領導者之一。