近日，阿里巴巴推出了其最新的大模型Qwen 3，標志著中國開源生態(tài)中DeepSeek與Qwen這對“雙子星”組合的正式崛起，逐漸取代了以往以Llama為主、Mistral為輔的開源格局。隨著Qwen 3的發(fā)布，F(xiàn)ounder Park邀請了多家AI創(chuàng)業(yè)公司的代表，就開源與閉源的選擇、模型微調(diào)、能力瓶頸及創(chuàng)業(yè)中的陷阱等話題進行了深入探討。其中，心言集團的開源布道師及高級算法工程師“左右”分享了公司在開源生態(tài)下的實踐經(jīng)驗和技術(shù)見解。
“左右”指出，從心言集團的業(yè)務(wù)角度出發(fā)，絕大多數(shù)（可能超過90%）的模型需求都需經(jīng)過本地化微調(diào)后部署使用。對于特定任務(wù)，如數(shù)據(jù)構(gòu)造、數(shù)據(jù)蒸餾或需要利用GPT、豆包、Qwen等特定大模型的能力時，則會直接調(diào)用其API。本地部署的模型主要基于Qwen，根據(jù)業(yè)務(wù)入口的不同，選用不同規(guī)模的版本，如7B、32B和72B等。針對具身智能業(yè)務(wù)，考慮到用戶隱私和多模態(tài)處理需求，會采用更小規(guī)模的多模態(tài)模型，如0.5B和1.5B。
選擇Qwen模型的原因包括其生態(tài)系統(tǒng)的成熟度和穩(wěn)定性、技術(shù)能力與業(yè)務(wù)的契合度、模型系列的完整性以及開源的持續(xù)性和可信賴度。Qwen在中文支持上表現(xiàn)出色，且預(yù)訓(xùn)練數(shù)據(jù)中包含了泛心理和情感陪伴相關(guān)內(nèi)容，這使得基于Qwen的微調(diào)模型更易滿足心言集團的業(yè)務(wù)需求。同時，Qwen提供了從0.5B到72B的完整尺寸系列，降低了在不同模型間進行微調(diào)和測試的成本。
在具身智能和線上互聯(lián)網(wǎng)業(yè)務(wù)方面，心言集團面臨了不同的挑戰(zhàn)。具身智能業(yè)務(wù)中，主要挑戰(zhàn)在于推理成本和生態(tài)適配。由于隱私需求，模型需本地部署，但端側(cè)推理卡成本高且推理速度可能不足。若采用國產(chǎn)算力芯片降低成本，則面臨生態(tài)不完善的問題，適配周期長且成本高。線上互聯(lián)網(wǎng)業(yè)務(wù)中，主要挑戰(zhàn)在于模型能力和推理成本/延遲。情感陪伴業(yè)務(wù)對情感細粒度理解要求高，需要模型準確捕捉用戶復(fù)雜的情感狀態(tài)，同時，隨著用戶量和AI使用量的快速增長，推理成本壓力大。
“左右”表示，盡管大多數(shù)模型廠商在預(yù)訓(xùn)練或后訓(xùn)練階段不會特別關(guān)注情感、情緒化的泛心理應(yīng)用場景數(shù)據(jù)，但心言集團仍堅持進行后訓(xùn)練，以提升模型在這一領(lǐng)域的表現(xiàn)。他們對基礎(chǔ)模型的要求主要是通用能力，而非特定領(lǐng)域能力。如果基礎(chǔ)模型的通用能力足夠好，后訓(xùn)練時就能更容易地將其擬合到所需方向。同時，他們也意識到，針對特定領(lǐng)域進行后訓(xùn)練可能會損害模型的其他通用能力，因此需在可接受范圍內(nèi)控制這種損害。
對于當(dāng)前開源模型的發(fā)展，“左右”表示期待開源模型能盡可能追平閉源頂尖模型，并希望它們能釋放更多的技術(shù)細節(jié)。他認為，DeepSeek在MoE、原生多模態(tài)、代碼等方面探索較前沿，而Qwen和Llama更注重社區(qū)和通用性，技術(shù)選型上相對穩(wěn)健。這種差異化定位在開源社區(qū)中是正常的。
在談及大模型創(chuàng)業(yè)中的陷阱時，“左右”指出，模型與產(chǎn)品的適配度以及對AI在產(chǎn)品中角色的理解是關(guān)鍵問題。他認為，AI更多是后端能力，是處理信息的工具，而不是直接交付結(jié)果的前端界面。很多開發(fā)者追求簡單的“端到端”解決方案，認為大模型能簡化一切，但在很多領(lǐng)域，尤其是情感領(lǐng)域，原本需要復(fù)雜處理的環(huán)節(jié)依然需要，甚至可以借助AI做得更精細。直接用AI替代這些環(huán)節(jié)，可能導(dǎo)致產(chǎn)品缺乏深度和個性化。
“左右”強調(diào)，正確的模式應(yīng)該是“X+AI”，而不是“AI+X”。核心是挖掘和理解用戶需求（X），然后思考如何用AI更好地解決這個需求。他提出，用戶留存是一個重要的觀察指標，很多AI產(chǎn)品留存差，往往意味著產(chǎn)品沒有抓住用戶的真實痛點，個性化做得不夠好。因此，心言集團將繼續(xù)聚焦泛心理發(fā)展的AI化與具身化，以開源為舟，以創(chuàng)新為帆，不斷探索情感計算領(lǐng)域的未知。
