近日，由中國電子商會人工智能委員會主辦的2023北京人工智能峰會暨第三屆AI金雁獎頒獎典禮在北京盛大舉行。循環(huán)智能（Recurrent AI）憑借在AI大模型技術(shù)上的創(chuàng)新、積累和應(yīng)用，經(jīng)過專家評審團的層層評比和篩選后獲得了“2022人工智能技術(shù)創(chuàng)新大獎”，循環(huán)智能聯(lián)合創(chuàng)始人楊植麟博士也被評選為“2022 AI領(lǐng)軍人物”。
中國AI金雁獎是由來自人工智能領(lǐng)域從技術(shù)研發(fā)到市場營銷和創(chuàng)投基金、從國家院士到企業(yè)高管和知名投資人等不同背景的專家和機構(gòu)組成的評審團，從多維度的觀察與剖析，多面向的評估與考核，經(jīng)過初審、復(fù)審到終審，層層評比、層層篩選出在AI技術(shù)和商業(yè)領(lǐng)域有著突破性重要貢獻的單位和個人，致力于不斷為中國人工智能科技領(lǐng)域發(fā)掘出優(yōu)秀的“頭雁”。
循環(huán)智能自主研發(fā)千億參數(shù)預(yù)訓(xùn)練NLP大模型“盤古”，是業(yè)內(nèi)首個千億參數(shù)的中文大模型，擁有1100億密集參數(shù)，經(jīng)過40TB的海量數(shù)據(jù)訓(xùn)練而成。同時也通過多任務(wù)prompt等技術(shù)延伸出10億參數(shù)、性能更好的落地版本，極大地加速了AI的商業(yè)應(yīng)用效率和泛化能力，提升NLP模型生產(chǎn)效率10-1000倍。“盤古”大模型刷新了世界中文CLUE榜單三項記錄，并獲得了2021世界人工智能大會“SAIL之星”榮譽。應(yīng)用層面，循環(huán)智能提供基于“AI+銷售科技”的解決方案，目前已賦能超100萬一線人員，日均處理上億次對話，在各行各業(yè)積累了豐富的銷售增長實踐、銷售分析模型和最佳溝通素材，累計生產(chǎn)了10000+面向各行業(yè)業(yè)務(wù)流程的AI數(shù)據(jù)模型。本次評選，循環(huán)智能憑借AI大模型技術(shù)創(chuàng)新、大量業(yè)務(wù)實踐贏得了評審團的認可，獲得“2022人工智能技術(shù)創(chuàng)新大獎”和“2022 AI領(lǐng)軍人物”兩項大獎。
頒獎典禮上，循環(huán)智能聯(lián)合創(chuàng)始人兼CTO張宇韜博士作為獲獎企業(yè)的代表，受邀發(fā)表了《AI大模型在企業(yè)服務(wù)場景下的實踐與探索》的主題演講，與現(xiàn)場領(lǐng)導(dǎo)、評審團、行業(yè)專家、媒體和100多位企業(yè)代表分享了AI大模型在企業(yè)落地的主要挑戰(zhàn)、循環(huán)智能“千循零樣本平臺”多模型策略和應(yīng)用場景，以及在大模型在企業(yè)應(yīng)用場景的最新探索與實踐。
以下是演講內(nèi)容的回顧：
以ChatGPT為代表的大模型應(yīng)用開啟了通用人工智能的新范式，其中最關(guān)鍵的技術(shù)創(chuàng)新是基于人類反饋數(shù)據(jù)的系統(tǒng)進行模型訓(xùn)練，從而提升了理解人類想法的準確性。
但企業(yè)在使用AI大模型時也面臨著三大挑戰(zhàn)，這些挑戰(zhàn)也體現(xiàn)了GPT模型的局限性。
挑戰(zhàn)一：事實性錯誤。事實性錯誤（即看似正確，但與事實不符），是GPT模型的原理帶來的。GPT的模型優(yōu)化目標是在有限的訓(xùn)練數(shù)據(jù)上泛化出無限的能力，當問題超過模型知識范圍時，會開始自我創(chuàng)造。事實性錯誤的挑戰(zhàn)，雖然在現(xiàn)有的技術(shù)路線下無法百分之百解決，但可以通過兩種路徑來“減弱”其影響。第一種是提升模型的知識范圍，當模型的知識范圍越大時，事實性錯誤也就會越少。第二種是通過更好地讓模型對齊人類的需求和價值觀，盡可能以合適的方式拒絕回答超出范圍的問題，從而減少事實性錯誤造成的影響。
挑戰(zhàn)二：難融入企業(yè)私域數(shù)據(jù)。像ChatGPT這樣的通用AI系統(tǒng)，其能力上限是公域存量數(shù)據(jù)的范圍，因為企業(yè)內(nèi)部大量的信息、知識、數(shù)據(jù)均無法被公域模型覆蓋。因此，企業(yè)內(nèi)的垂直業(yè)務(wù)需求是無法被公域模型準確理解的。而企業(yè)內(nèi)的垂直業(yè)務(wù)需求是與業(yè)務(wù)流程強相關(guān)的，往往需要結(jié)合內(nèi)部數(shù)據(jù)作為上下文，才能準確理解。例如，客戶質(zhì)量分析場景，企業(yè)客戶如果直接使用類似 ChatGPT 的通用AI系統(tǒng)，輸入客戶信息和對話內(nèi)容，來判定客戶是否屬于優(yōu)質(zhì)客戶，那么得到的結(jié)果往往不理想。主要原因是，通用AI系統(tǒng)并不清楚企業(yè)內(nèi)部對于優(yōu)質(zhì)客戶的定義，而且不同企業(yè)對于優(yōu)質(zhì)客戶的定義很大程度上是不同的。
挑戰(zhàn)三：規(guī)模化應(yīng)用成本高。當前，百億參數(shù)的模型輸出（推理）速度大概可以做到每個GPU每秒生成 20 個字左右（30token）。在實時文本交互（在線客服、問答）場景，一個GPU支持3-5個并發(fā)客戶，那么100萬“日活躍用戶”，對應(yīng)的峰值并發(fā)約10000，需要 2000-3000個GPU，成本過于高昂。在實時語音交互場景（電話溝通、語音通話、視頻通話）場景，在單個GPU單并發(fā)情況下，文本生成的句末延遲約1到3秒，疊加TTS（文本轉(zhuǎn)語音）的延遲，基本無法支撐需求。
過去幾年，循環(huán)智能在大模型訓(xùn)練和應(yīng)用實踐中有非常多的技術(shù)積累，為解決這些難題打下了良好的基礎(chǔ)：首先，積累了大量行業(yè)文本和語音數(shù)據(jù)，中文文本數(shù)據(jù)超過40TB，真實語音對話數(shù)據(jù)超過 400 萬小時；其次，具備超大規(guī)模預(yù)訓(xùn)練模型的工程化經(jīng)驗，主導(dǎo)開發(fā)和落地了首個千億參數(shù)的中文語言大模型“盤古”，具備豐富的數(shù)據(jù)采集、清洗和標注經(jīng)驗。主導(dǎo)開發(fā)了面向認知的“悟道·文匯”超大規(guī)模預(yù)訓(xùn)練模型；第三，精通場景化的多任務(wù)指令微調(diào)，在銀行、保險、證券、地產(chǎn)、汽車、零售等行業(yè)有豐富的業(yè)務(wù)實踐。
今年，循環(huán)智能也將推出自研的“千循零樣本AI平臺”。“千循零樣本AI平臺”采用了多模型組合的策略，包括10億參數(shù)的盤古NLU（自然語言理解）模型，主要服務(wù)語義理解的場景，和面向更復(fù)雜的文本生成類任務(wù)、參數(shù)規(guī)模更大的“千循-M”和“千循-XL”模型等。同時，為了使模型更好地適配企業(yè)需求，“千循零樣本平臺”提供多種“微調(diào)”方案，包括 P-tuning、Instruction tuning、LoRA等，可以更好地融入企業(yè)的專有知識庫數(shù)據(jù)。
“千循零樣本AI平臺”在底層提供AI大模型的高質(zhì)量文本理解能力、邏輯推理能力和文本生成能力。基于這些能力，在企業(yè)需要對外交互的營銷場景、服務(wù)場景，以及內(nèi)部的知識培訓(xùn)和內(nèi)容運營場景，提供多種創(chuàng)新應(yīng)用，幫助不同場景的不同角色員工提升產(chǎn)能和工作效率。
在智能化內(nèi)容運營與生產(chǎn)場景，“千循零樣本AI平臺”提供“話術(shù)質(zhì)量的分析&挖掘與優(yōu)化建議、文案自動化生成與撰寫、以及基于知識庫的智能問答能力。
在客戶畫像與需求的智能分析場景，“千循零樣本AI平臺”提供基于對話內(nèi)容自動識別客戶畫像與需求、基于對話內(nèi)容總結(jié)客戶所有興趣點&評價和提問以及自然語言輸入信息，快速進行客戶描摹能力。
在智能化業(yè)務(wù)分析與決策推薦場景，“千循零樣本AI平臺”提供“基于對話全文生成業(yè)務(wù)策略的能力”，在房產(chǎn)和汽車銷售場景，可以給出靠譜的商機跟進建議。還提供“基于對話內(nèi)容評判服務(wù)效果”的能力，可以幫助企業(yè)了解客戶對售后服務(wù)是否滿意，以及滿意的地方和不滿意的地方分別是什么。之前企業(yè)主要是通過問卷來收集客戶滿意度，填寫問卷的人數(shù)占比很少，現(xiàn)在可以做全量的滿意度分析。
