NVIDIA在AI芯片領域的地位，并非單純依靠硬件優勢所穩固，其核心競爭力在于其構建的CUDA生態系統。盡管面臨美國對中國的半導體出口限制，NVIDIA的高端AI芯片無法直接在中國大陸銷售，但其產品依然是中國市場上最受歡迎的選擇。這一現象背后，NVIDIA的GPGPU架構與CUDA生態發揮了關鍵作用。
與此同時，華為推出了專為神經網絡設計的CANN異構計算架構，意在挑戰NVIDIA的地位。然而，與CUDA生態相比，CANN在生態系統和開發者支持方面仍顯不足。據The Information的一份報告顯示，華為在提升AI芯片市場份額的過程中，面臨的一大挑戰便是CANN軟件平臺未能獲得行業的廣泛認可，其影響力遠不及CUDA。
CUDA對程序開發人員而言，是一種極為友好的高級編程語言。開發者在使用CUDA時，能夠專注于程序和算法的核心邏輯，而不必深入了解GPU等硬件的具體執行細節，從而極大地降低了開發難度。這一特性使得CUDA在AI芯片開發領域備受青睞。
NVIDIA針對AI應用推出的GPGPU，結合CUDA軟件編程框架，展現了極高的編程靈活性和適應性。GPGPU不僅能夠處理圖形渲染等傳統任務，還能勝任科學計算和深度學習等復雜任務。這種多功能性使得GPGPU在AI芯片市場上占據了重要地位。
相比之下，華為的昇騰AI芯片雖然針對深度學習推理和訓練進行了優化，作為ASIC芯片在特定任務上表現出色，但在處理圖形渲染、并行計算等通用任務時，其效率和靈活性不及GPGPU。為了改變這一局面，華為正考慮調整其AI芯片設計策略，從ASIC轉向GPGPU。
據透露，華為新的AI芯片將采用GPGPU架構，并配備全新的軟件。這款軟件將使得用戶能夠通過中間件，以兼容的CUDA編程語言進行開發。同時，該軟件還能將CUDA指令轉換為適用于華為AI芯片的語言。這一舉措有望拓寬華為AI芯片的應用范圍，進而提升其在中國AI芯片市場的份額。
