大模型全面落地下的首個11.11,AIGC掀起了新一輪智能應用潮流。
數百個智能場景落地京東:京東云智能客服處理咨詢超14億次,自動為客戶推薦“一鍵價保”等超337萬次;京小智服務商家數突破36萬,商品推薦準確率提升27%;言犀虛擬主播幫助中小商家降低直播成本90%……
京東11.11期間,“大模型+小應用”所激發的AIGC生產力,正由應用層步入“企業降本增效、消費提質擴容、產業高質量發展”的產業全鏈條,達成價值創造的正循環。
智能營銷:AIGC服務商家運營提效
“數字人的作用不是推輪子,而是為商家裝上了發動機。”提及數字人直播間高達46%的營銷轉化率,京東自有品牌惠尋的工作人員如是贊嘆。
在京東11.11收官戰中,言犀虛擬主播桃子聯動京東零售便宜包郵頻道、京東聯營業務以及惠尋,開啟了一場28小時的“9塊9直播”。來自白象、蜂花、惠尋等品牌的88件低價好物,吸引了7萬人次觀看,每100人打開購物車就有近半數下單。
亮眼的營銷能力,植根于京東肥沃的AIGC產業土壤。超千萬自營商品SKU、5000萬工業品SKU、超800萬家活躍企業客戶、全國2000多條產業帶,為言犀大模型提供了數智供應鏈原生數據。在大模型能力加持下,更具產業洞察和帶貨思維的數字人,以不到真人1/10的成本,入駐伊利、聯想、國臺酒業等4000多個品牌直播間,帶動GMV增長超10億元。
除數字人直播外,大模型技術下的11.11,更多智能應用為品牌商家帶來了營銷新啟發。
提質增效,AIGC釋放內容生產力。基于京東全品類、上千萬SKU數據積累,AIGC商品內容生成技術,幫助商家理解商品特征,自動生成商品圖片、賣點等營銷素材。通過一張商品圖片,就能快速生成電商運營需要的商品主圖、營銷海報圖和商詳圖,滿足便捷開店、上品、營銷的需求,每套圖成本可降低90%,周期從7天縮短到半天。
創新驅動,領航者成為營銷副駕駛。京東金融領航者營銷平臺,將營銷專家的能力和經驗固化在大模型里,過去涉及產品、研發、算法、設計、分析師等5類職能才能完成的流程可由1人完成;一個入口的全新交互模式,讓人機交互次數從2000次降低至少于50次,方案生產效率提高上百倍。目前,這一平臺已經落地京東內部8個場景,覆蓋超過50%運營工作,11.11期間承擔超過30%金融營銷頭圖的設計工作。服務外部客戶時,平臺可以插件輕耦合到客戶系統中,助力客戶運營提率。
智能服務:人機交互提升用戶體驗
用最簡單的二進制編碼,聽懂天南地北最復雜的需求,為數以億計的消費者和商家帶來“真便宜”。“大模型+小應用”在京東內場全面鋪開,為消費者帶來媲美真人的交互體驗。
便捷高效+價值創造,智能客服保駕“真便宜、閉眼買”。面對京東11.11的海量商品,精準智能導購為消費者提供了更便捷的消費體驗。京東云智能客服累計咨詢服務量超14億次,同比增長211%,尤其是運用前沿的意圖識別、情感智能技術,為客戶精準推送包括“一鍵價保”等各項特色服務。自今年啟動“春曉計劃”以來,作為京東官方的服務與營銷一體化平臺,京小智服務數增長至超36萬,其中小商家相比去年雙11增加102%,相比今年618增加62%。
聲音供應鏈+需求分層,數字人主播詮釋降本增效。言犀團隊建立“聲音供應鏈”,采集真人主播的聲音韻律和節奏,基于多顆粒度韻律的增強語音合成技術,準確把握用戶情緒,提高合成語音的韻律豐富度和可控性,并根據用戶反饋持續迭代。同時推出“局部高清”和“需求分層”技術,就用戶注意力集中點如數字人五官及展示的商品,進行清晰度提升,稍加弱化其他部位,便能有效平衡購物體驗和帶寬成本,可降低用戶部署成本到此前的1/10。
醫學知識構建+多模態理解,京醫千詢護航百姓健康。基于循證醫學知識構建,京醫千詢整合臨床實踐、醫學文獻和專家知識,確保提供可靠的、具有科學依據的醫療建議和診斷。同時,它還具備多模態理解的能力,融匯了京東健康在服務患者過程中產生的超億級的高質量醫患對話數據,涵蓋圖表、文本、圖像等形式,幫助醫生全面了解患者情況,完成診斷和治療決策。
看得見的智能服務,量化為京東11.11的戰報數據:300個品牌銷售額破億元,新商家成交量環比上月增長5倍;京東采銷直播累計觀看人數突破3.2億;京東云每秒用戶訪問同比提升170%……接入大模型能力的京東九數算法中臺,通過拖拽組件即可完成機器學習,零代碼實現人工智能開發,實現億級別用戶及商品理解建模,千卡級別分布式調度,為800+電商核心業務支撐,助力零售業務數智化轉型。
源于產業、服務產業。言犀大模型融合70%的通用數據與30%京東數智供應鏈原生數據,這一千億級參數的大模型,具有“更高產業屬性、更強泛化能力、更多安全保障”優勢,面向知識密集型、任務型產業場景,推理提速6.2倍,模型迭代部署提效超10倍。言犀AI開發計算平臺,以低代碼和API降低開發門檻,提供100多種訓練和推理優化工具,可節約90%推理成本。
基礎設施:極致降本造就技術基石
看不見的技術基石,在背后穩定地提供數智支持,實現極致降本。
混合多云技術,每年幫京東省數億元。京東的算力集群由72個大型數據中心、近百個邊緣數據中心、海量的邊緣加速節點、組成。京東云通過云原生技術,將海量異構算力設施容器化,構建了“全球最大的容器集群”。京東云混合多云操作系統云艦,對這些容器集群完成超千萬核資源秒級調度和高效復用,3年將處理器運算效力提升超100%,每年可節省數億元。同時,支持大模型訓練+微調+推理混合部署,將算力利用率提高70%。
存算分離技術,少買硬盤多省錢。基于存算分離架構,京東云把存儲資源池化,構建了京東云云海的新一代分布式存儲系統,成功將磁盤利用率提升至90%,做到千萬級IOPS,延遲低至百微秒,可廣泛應用于音視頻存儲、圖片存儲、數據報表等傳統場景,以及存算分離、高性能計算、AI訓練等新興場景,對計算和存儲資源實現解耦,可為客戶節省整體基礎設施成本超30%。
軟硬虛擬化一體技術,榨干硬件能力實現真便宜。虛擬化是云計算的底座技術,但這個“底座”會造成服務器的額外開銷。京東自研了軟硬一體虛擬化引擎“京剛”,將物理服務器的虛擬化損耗降至零,榨干每臺服務器的全部算力。11.11期間,京剛托起了云主機、裸金屬云主機、云原生容器,最大化釋放云計算低成本優勢。
離在線混部技術,靠“復用”省錢。像618、11.11這樣的購物節,服務器的訪問量激增,常規做法是添置新服務器,但峰值節點后,服務器會閑置將帶來巨大浪費。京東云“離在線混部技術”,作為復用技術,把對延遲不敏感的離線計算任務和對延遲敏感的在線服務,部署到同一集群上運行,先滿足重要的在線服務需求,相對次要的離線任務,填到空閑資源中去,以復用操作,實現降本增效。
向量數據庫,既要超高性能也要極致降本。京東自主研發向量數據庫Vearch,平穩支撐京東百億級向量數據高性能檢索,將延遲控制在毫秒級。用于大模型預訓練,可優化模型推理效率,相比傳統方式推理成本降低80%,目前,Vearch已經實現大規模落地實踐,服務超100家大中型企業。
向下夯實技術基石,向上做活智能應用,AIGC正成為引發生產力變革的關鍵力量之一。據艾瑞咨詢預測,2023中國AIGC產業規模約為143億元。2028年,將達到7202億元。2030年,則有望突破億萬元,達到11441億元。
當數智創新的溫度傳導為“企業降本增效、消費提質擴容、產業高質量發展”發展的正循環。人們不難發現,以11.11為節點的電商大促接近尾聲,以“大模型+小應用”為引擎的AIGC正蓄勢待發。
未來,科技服務將著眼何方?
以AIGC踐行技術長征,京東云如是回答。