MLOps：源于軟件工程領域促進提質增效的管理方法論DevOps，由機器學習(Machine Learning)、研發(Development)和運營(Operations)三種概念構成，旨在讓AI模型的開發也能兼具效率和質量，實現規模化應用。
近期，土豆數據科技集團董事長霍向琦在第一財經主辦的《AI大模型——揭秘人工智能生產力的加速器MLOps》研討會上，結合土豆數據弗雷時空大模型的建設思路，講述在大模型時代，MLOps理念的價值以及實現的路徑。
MLOps理念的價值在哪里?
由中國信息通信研究院、人工智能關鍵技術和應用評測工業和信息化部重點實驗室在聯合發布的《人工智能研發運營體系(MLOps)實踐指南(2023年)》指出，AI模型的開發以及應用，當前著面臨著跨團隊協作難度大、過程和資產管理欠缺、生產和交付周期長等問題。
對此，霍向琦表示，面向人工智能領域AI模型及AI應用的開發，MLOps的意義和價值，在于建立團隊協作機制，實現敏捷交付過程，在構建全面鏈路反饋閉環的過程中，實現對AI資產進行統一管理。
實際上，早在“小模型”階段，MLOps理念已經助力AI模型開發、訓練、部署和應用全流程開發的降本增效。而隨著大模型時代的到來，MLOps作為一體化AI工程化方法，亦將促進通用人工智能技術轉化為能夠解決行業實際痛點的真實生產力。
在霍向琦看來，平臺化，以及深度融入MaaS體系，是MLOps在大模型發展的浪潮之中，從一種工程方法轉變為基礎設施和平臺工具的重要趨勢。MLOps所強調的跨部門協作、敏捷開發、高效運維等理念，將落地成為圍繞數據標準規范、模型開發訓練、部署應用等相關的平臺工具集，來支撐通用大模型和行業大模型產品的構建。
這意味著，得益于MLOps理念向工具的轉化，上至專業AI企業，下至獨立開發者或非研發方向的業務人員，都將得輕松上手模型產品開發和部署應用的整套流程。
土豆數據面向時空產業所構建的弗雷時空大模型，正是基于MLOps理念串聯時空信息采集、建模、治理、分析、應用及流通等全鏈路，滿足各垂直細分領域有關行業知識問答，內容創作，業務自動化處理，以及細分領域行業大模型微調構建等需求，在降低專業操作門檻、減少勞動密集作業的同時，本質上更讓各環節上的技術人員、行業專家和終端用戶能夠高效協同，將大模型能力、行業知識、想象力和創造力轉化為真實生產力，賦能千行百業釋放價值。
大模型時代下，MLOps理念如何實現
當下，以ChatGPT為典型的大模型產品展示了令人震撼的內容生成能力，然而，潛在的一些問題使得行業用戶對大模型應用的實踐持謹慎態度。
根據市場研究機構Gartner的調查數據表明，成功將AI模型應用到實際生產環境中的轉化率僅略高于50%。
那么，在利用MLOps提高大模型實際生產轉化率的過程中，面臨著哪些問題？
對此，霍向琦在活動中指出：
第一，AI大模型處于IT應用的前沿，應用場景并不明晰且缺乏安全監管，而國內很多行業尚處于數字化轉型的建設初期，其中最典型的問題，要屬數據資源普遍以不同的行業標準和不同的文件格式分散在跨單位、跨部門的服務器或電腦端中，未能經過統籌治理形成標準統一的數據資產。“數據底座”即數據要素的缺失，難以為行業大模型的訓練提供可靠、高質量的數據支撐。
其次，相比小模型針對特定應用場景的輕量化開發訓練和部署應用，大模型將更偏向于建設一個系統級工程，基于MLOps理念和相關工具，必須做好數據工程和模型工程的基礎，并需要完成與終端用戶的業務系統的配套改造和對接，從而響應行業大模型持續訓練和場景搭建封裝等關鍵任務需求。
而對于如何MLOps理念如何實現，霍向琦也發表了自己的觀點：
霍向琦認為，人才，在打造MLOps完善的工程化能力，推進大模型的落地應用的過程中，扮演著至關重要的角色。
在大模型時代，產品經理崗位將是具備“終極思維”的稀缺人才，其通過豐富的行業知識與認知，面向整個產業，針對其痛點和發展趨勢，在產品設計上給予更精準地預判。
而數據工程師、解決方案工程師等崗位，也都將立足于大模型的核心能力，廣泛觸達各行各業的共性需求，消除行業間的壁壘，助力以數據為關鍵要素的業務管理和決策。
