科大訊飛與華為攜手，在國產算力領域邁出了重要一步。近日，雙方聯合宣布，在MoE模型的大規模跨節點專家并行集群推理方面取得了突破性進展。這一成果不僅標志著國產算力在AI領域的一次飛躍，也預示著未來智能計算的新篇章。
此次合作的亮點在于，雙方團隊通過軟硬件的深度協同創新，成功挖掘了硬件的極致潛力。特別是在昇騰集群上的驗證和部署過程中，團隊在算子融合方面取得了顯著成果。通過MLA預處理階段的Vector與Cube異構計算單元并行流水，以及將多個小算子融合重構為原子級計算單元，團隊成功消除了小算子下發的開銷，MLA前處理時延降低了50%以上，性能得到了大幅提升。
在混合并行策略和通信計算并行優化方面，科大訊飛與華為的團隊也展現出了卓越的創新力。他們構建了TP（張量并行）+EP（專家并行）的混合范式，對MLA計算層采用機內TP并行，充分發揮了機內高速互聯的優勢，降低了跨機通信的損耗。同時，團隊還創新性地進行了MoE專家分層調度，64卡均衡分配專家計算節點，并定制了AllToAll通信協議，使得專家數據交換效率提升了40%。通過構建跨機/機內雙層通信架構，團隊實現了分層優化，降低了跨機流量60%。他們還研發了路由專家負載均衡算法，使得卡間負載差異小于10%，集群吞吐提升了30%。
這一系列的創新使得國產算力在分布式架構與算法協同優化方面取得了顯著的性能提升。單卡靜態內存占用縮減至雙機部署的1/4，效率提升了75%，專家計算密度增加了4倍，推理吞吐提升了3.2倍，端到端時延降低了50%。這些成果無疑為國產算力在AI領域的應用打開了新的大門。
科大訊飛研究院表示，這一突破性的解決方案將廣泛應用于訊飛星火深度推理模型的訓練加速中。預計訓練時的推理效率將提升200%，同時基于該方案的推理引擎也將在國產算力上實現DeepSeek V3和R1的高效推理。這無疑將進一步提升科大訊飛在AI領域的競爭力。
科大訊飛深度推理大模型星火X1也完成了升級。在模型參數量比業界同行少一個數量級的情況下，星火X1的數學能力已經全面對標DeepSeek R1和OpenAI o1，在中文數學各項任務中均實現了領先。這一成果不僅展示了科大訊飛在AI領域的深厚底蘊，也為其未來的發展奠定了堅實的基礎。
科大訊飛與華為的這一合作不僅是一次技術上的突破，更是國產算力在AI領域崛起的重要標志。隨著雙方合作的不斷深入，相信未來會有更多令人矚目的成果涌現。
雙方團隊在合作過程中展現出的創新精神和協作能力也值得稱贊。他們通過深度協同創新，成功挖掘了硬件的極致潛力，為國產算力的發展注入了新的活力。相信在未來的合作中，雙方將繼續攜手前行，共同推動國產算力在AI領域的蓬勃發展。
