近日，由阿里云與端木軟件聯合主辦、僑夢苑協辦的AI智領者研討會在寧波圓滿舉行。端木軟件高級解決方案架構師、阿里云MVP繆政輝在會上進行了《基于阿里百煉及內部知識庫構建企業專屬問答機器人》的主題分享。
2023年10月，阿里云發布百煉大模型平臺后，這一集成了國內外主流優質大模型，提供模型選型、微調訓練、安全套件、模型部署等服務和全鏈路應用開發工具的強大平臺，能夠有效簡化企業智能化升級路徑，提供一站式、全托管的大模型定制與應用服務。
基于這一強大平臺，企業在AI智能化的路上有了許多優秀大模型的選擇。繆政輝在會上深度剖析了中小企業在部署大型語言模型應用中面臨的挑戰，并重點分享了多款基于阿里百煉平臺的大模型工具。
MaxKB——構建企業自有大模型問答服務
繆政輝指出，如何低成本、高效率地實施大模型落地，一直是企業智能化發展的一大難題。高昂的GPU運行成本、知識資產難以落地以及缺乏代碼能力是中小企業應用大模型的主要障礙。
為解決這些痛點，繆政輝介紹了MaxKB這款基于LLM大語言模型的開源知識庫問答系統，它支持開箱即用、多源知識庫接入、無縫嵌入以及多模型與多用戶管理，極大降低了部署門檻。
通過演示MaxKB的部署過程，繆政輝展示了如何快速搭建問答機器人，僅需基本的硬件配置（2+vCPU, 4GB+RAM, 100GB+Disk）即可運行。他還詳述了如何在MaxKB上添加模型、配置知識庫分段并關聯問題，最終創建應用，使得企業能夠通過微信、釘釘等渠道使用或嵌入自己的問答機器人。
繆政輝會上還展示了2024年中國“大模型+知識管理”的一系列最佳實踐案例，如博世華域的質量知識管理體系、唱吧的智能客服升級、國家電網的電力設備運檢助手等，案例覆蓋制造、IT、互聯網、能源等多個領域，充分展現了大模型在企業知識管理中的廣泛應用能力。
Dify——構建企業AI Agent，實現 AI 業務自動化
除了基礎對話式的生成模式，隨著人們對AI技術的認知逐漸深化，相應的對其更加深入的應用也有了更高期待。能否構建AI智能體實現AI業務自動化，全面賦能企業的工作流、業務流呢？
繆政輝現場介紹了Dify這一大模型工具。這一開放靈活的生成式AI應用開發框架，涵蓋了構建生成式 AI原生應用所需的核心技術棧，開發者可以聚焦于創造應用的核心價值，便捷部署，快速發布應用，有效加速企業AI應用的開發周期，并通過阿里云百煉平臺進一步優化流程管理，深化AI智能體的應用，為用戶提供更全面的解決方案。
除了這兩款重點大模型工具，繆政輝還現場推薦了如Jina Reader API、AiPPT、VitePress等增強問答知識庫和AI Agent的工具，充分滿足企業個性化和多樣化需求。
最后，繆政輝向與會者介紹了端木軟件。作為阿里云旗艦級合作伙伴，端木軟件全國部署6大靈活開發團隊池、9大云計算支持中心，以其在云業務、應用現代化服務、軟件服務外協等方面的專業服務能力，為電力、政府、運營商、制造等多個行業客戶提供一站式IT服務。
此次研討會不僅為企業提供了0代碼構建AI機器人的具體操作指南，更為行業內外展示了AI技術如何在不同領域落地，促進業務創新與效率提升。AI和大模型技術日漸成熟的發展，為企業全場景工作流、業務流注入了智能基因，讓企業寶貴的知識資產得以高效反哺業務發展，是企業降低人力成本、顯著提高業務流轉效率的強大動能。
