在人工智能（AI）技術(shù)日新月異的今天，其應(yīng)用場景已遠(yuǎn)遠(yuǎn)超越了技術(shù)范疇本身，成為了一個集工程能力、產(chǎn)品開發(fā)以及技術(shù)實(shí)力于一體的綜合挑戰(zhàn)。只有全面應(yīng)對這一挑戰(zhàn)，企業(yè)才能在市場上贏得認(rèn)可，實(shí)現(xiàn)商業(yè)價值。
近年來，大型語言模型（大模型）的興起標(biāo)志著技術(shù)驅(qū)動的新一波浪潮。然而，隨著技術(shù)逐漸成熟，應(yīng)用場景的拓展成為了新的焦點(diǎn)。據(jù)行業(yè)觀察，從今年第一季度和第二季度開始，市場對AI應(yīng)用的需求顯著增長，尤其是金融行業(yè)，這一趨勢尤為明顯。
金融行業(yè)作為AI技術(shù)的先行者，其大模型的滲透率已超過50%，位居各行業(yè)之首。然而，高滲透率并不意味著高效的生產(chǎn)力。過去一年中，金融機(jī)構(gòu)更多地聚焦于基于基座大模型進(jìn)行專屬模型的訓(xùn)練，而現(xiàn)在，他們的核心關(guān)注點(diǎn)已經(jīng)轉(zhuǎn)向了應(yīng)用層面，特別是在智能客服、坐席輔助、證券質(zhì)檢、數(shù)字營銷等具體場景中。
孔淼，一位在AI技術(shù)應(yīng)用前沿工作的專家，與容聯(lián)云團(tuán)隊共同見證了這一變化。他表示，不僅金融行業(yè)，各行各業(yè)對AI的需求都在從模型層向更具體的應(yīng)用層轉(zhuǎn)變，這背后是企業(yè)對有效產(chǎn)品加持和更高投資回報率（ROI）轉(zhuǎn)化的迫切需求。
然而，在實(shí)際操作中，企業(yè)面臨著如何將大模型嵌入業(yè)務(wù)系統(tǒng)，以及如何在應(yīng)用層進(jìn)行基于自身業(yè)務(wù)的適配開發(fā)的難題。市場上尚未出現(xiàn)標(biāo)準(zhǔn)答案，但已有企業(yè)開始探索可行的路徑。
去年12月，容聯(lián)云發(fā)布了基于自研赤兔大模型的全新產(chǎn)品品牌及生成式應(yīng)用，旨在幫助企業(yè)進(jìn)行包括營銷、服務(wù)等一系列流程的AI改造和重構(gòu)。這一舉措幾乎是國內(nèi)最早被拆解的AI應(yīng)用路徑之一，如今，一年過去，容聯(lián)云已經(jīng)交出了新的答卷。
在金融領(lǐng)域，智能化變革的前夕已經(jīng)到來。一位互聯(lián)網(wǎng)大廠AI應(yīng)用負(fù)責(zé)人透露，金融已成為他們今年及未來KPI中的重中之重。金融行業(yè)擁有豐沃的AI落地土壤，用戶基數(shù)龐大，數(shù)字化底層框架建設(shè)初步完成，高度線上化和數(shù)據(jù)化為其提供了堅實(shí)的基礎(chǔ)。
然而，挑戰(zhàn)也隨之而來。盡管金融行業(yè)在數(shù)字化營銷平臺、智能運(yùn)營等方面進(jìn)行了初步部署，但真正成熟應(yīng)用的場景仍然較少。金融企業(yè)需要借助AI手段，實(shí)現(xiàn)更精細(xì)化的業(yè)務(wù)搭建和客群運(yùn)營，涵蓋營銷、銷售、服務(wù)的全部場景和節(jié)點(diǎn)。
容聯(lián)云在這一領(lǐng)域取得了顯著成果。以質(zhì)檢為例，在容聯(lián)云質(zhì)檢代理（QM Agent）的加持下，某國內(nèi)頭部證券機(jī)構(gòu)的準(zhǔn)確率從90%提升至94%，召回率從67%提升至96%。同時，該機(jī)構(gòu)實(shí)現(xiàn)了“10000通會話、300小時時長、8大語義質(zhì)檢項(xiàng)、6.5小時質(zhì)檢完成”的高效成果，而所需部署的僅是一個14B參數(shù)的小模型和幾張市面上通用的GPU算力卡。
同樣，在壽險場景，容聯(lián)云的坐席代理（Virtual Agent）產(chǎn)品也取得了顯著效果。某壽險企業(yè)借助該產(chǎn)品實(shí)現(xiàn)了超過50人/天的人力節(jié)省，咨詢問答首解率由60%提升至80%，轉(zhuǎn)人工率由85%降低至55%。這些成果同樣基于數(shù)量不多的顯卡和14B小參數(shù)模型的部署。
在剛剛舉辦的“2024數(shù)智金融應(yīng)用論壇”上，容聯(lián)云展示了包括容犀質(zhì)檢代理（QM Agent）、容犀坐席代理（Virtual Agent）、容犀坐席助理（Agent Copilot）、洞察代理（Insight Agent）等在內(nèi)的一系列面向具體業(yè)務(wù)環(huán)節(jié)的AI應(yīng)用產(chǎn)品和實(shí)例。
孔淼表示，過去一年中，容聯(lián)云對大模型的落地場景越來越清晰，能夠準(zhǔn)確識別出真正的痛點(diǎn)、癢點(diǎn)，以及能產(chǎn)生真正商業(yè)價值和增量的環(huán)節(jié)。這些場景被轉(zhuǎn)化為應(yīng)用產(chǎn)品，基于真實(shí)的AI剛需點(diǎn)，輔助各種AI訓(xùn)練/調(diào)優(yōu)方式，最終實(shí)現(xiàn)了顯著的成果。
在孔淼看來，相較于大模型在預(yù)訓(xùn)練等環(huán)節(jié)的推進(jìn)，在具體落地層面，更需要基于工程能力進(jìn)行需求的滿足。容聯(lián)云采取了靈活的方式，包括大小模型結(jié)合、基于Copilot或Agent的方式等，以滿足不同企業(yè)的需求。截至目前，容聯(lián)云的相關(guān)AI產(chǎn)品已經(jīng)在金融行業(yè)超過幾十個場景落地，幫助幾十家銀行、證券、保險等不同細(xì)分領(lǐng)域的金融企業(yè)構(gòu)建了新的智能化營銷服務(wù)體系。
金融行業(yè)作為數(shù)字化轉(zhuǎn)型的明珠，其應(yīng)用路徑對其他行業(yè)具有重要的借鑒意義。在AI時代，金融行業(yè)的實(shí)踐經(jīng)驗(yàn)為我們提供了寶貴的啟示：真正的AI模型需要轉(zhuǎn)化為企業(yè)的市場競爭力和生產(chǎn)力，這要求服務(wù)商具備深入的行業(yè)理解、數(shù)據(jù)沉淀、工程落地能力以及特定的推理強(qiáng)化或?qū)儆?xùn)練能力。
容聯(lián)云的成功案例證明了這一點(diǎn)。他們基于金融數(shù)據(jù)的底座赤兔大模型進(jìn)行訓(xùn)練，聚焦細(xì)分場景進(jìn)行規(guī)則增強(qiáng)、推理增強(qiáng)，同時在落地過程中采用大小模型結(jié)合和不同模塊的解耦方式，以適應(yīng)金融企業(yè)對大模型的真實(shí)需求：真實(shí)可用，小步迭代。
這一綜合命題的解答不僅關(guān)乎技術(shù)本身，更涉及工程能力、產(chǎn)品開發(fā)以及技術(shù)實(shí)力的全面融合。只有全面應(yīng)對這一挑戰(zhàn)，企業(yè)才能在AI浪潮中立于不敗之地。
