在2025年初，云軸科技ZStack宣布了一項重要進展，其AI Infra平臺ZStack智塔現已全面支持企業私有化部署DeepSeek的V3、R1及Janus Pro三種模型。這一舉措旨在應對當前AI推理需求的快速增長以及企業級AI應用私有化部署（Private AI）的迫切需求。
據悉，隨著DeepSeek在2024年12月成功上線并開源V3、R1及Janus Pro模型，全球多家公有云平臺，如AWS、Azure和華為云，紛紛宣布了對DeepSeek R1或R1/V3的支持。ZStack智塔作為企業級私有化AI Infra平臺的佼佼者，充分利用DeepSeek開源模型的優勢，以低成本高性能的特點，進一步推動了AI在企業級商用領域的進程。
ZStack智塔在模型層提供了全面的支持，涵蓋了模型開發和應用所需的各種基礎工具和組件。該平臺首發即支持DeepSeek的V3、R1和Janus Pro模型。其中，V3適用于通用型自然語言處理任務，R1專注于復雜推理任務，而Janus Pro則擅長多模態理解與生成。這些模型能夠滿足企業在不同AI場景下的多樣化需求。
在算力層，ZStack智塔同樣表現出色。它提供了計算、存儲、網絡、安全等基礎資源和服務，并支持DeepSeek在海光、昇騰、英偉達、英特爾等多種國內外CPU/GPU算力資源上進行私有化部署。這種靈活性使得ZStack智塔能夠適配企業數據中心的多樣化算力資源。
ZStack智塔還配備了智能異構調度引擎，能夠自動匹配硬件特性，并支持CUDA、ROCm、CANN等體系架構。該平臺還提供了無GPU測試方案，通過CPU部署DeepSeek-R1-7B輕量化模型，在16核云主機上實現了9.26 tokens/s的可用級表現。
為了滿足企業級用戶對AI應用的多樣化需求，ZStack智塔提供了靈活性與定制化服務。它允許企業在私有云或混合云環境中部署DeepSeek模型，從而確保數據的安全性和隱私保護。同時，該平臺還支持裸金屬、虛擬機和容器計算資源的彈性擴展，以及與多種硬件和軟件的集成。這使得企業能夠輕松地將AI能力整合到現有系統中。
在資源利用方面，ZStack智塔同樣表現出眾。它采用了多卡并發推理技術，通過多張GPU聯合推理，提升了小顯存GPU的可用性，減少了閑置資源。同時，該平臺還采用了顯卡切分技術，通過對單張GPU進行算力、顯存切分，提高了大顯存GPU的資源利用率。ZStack智塔還支持模型量化技術，通過對模型進行量化，配合DeepSeek的低成本高性能特點，大幅提升了AI效率。
AI Infra平臺被視為企業加速釋放AI生產力的關鍵引擎。它專注于企業級AI應用的私有化部署場景，為人工智能應用的開發、部署、運行和管理提供了一系列基礎工具和軟件平臺。賽迪顧問指出，2025年是中國AI Infra平臺應用的元年。隨著AI推理算力需求的激增，企業級智算資源管理的新需求應運而生。同時，AI應用正加速向企業級場景滲透，模型工具鏈和運營管理組件的引入降低了AI應用的門檻。數據隱私和安全性的考慮也推動了AI應用的私有化部署。
根據賽迪顧問發布的《2025中國AI Infra平臺市場發展研究報告》，AI Infra平臺市場在2024年達到了19.4億元，預計2025年將增長至36.1億元，同比增長將超過86%。這一數據進一步證明了AI Infra平臺在企業級應用領域的廣闊前景。
