蘋果公司在其專為Apple Silicon芯片設計的機器學習框架MLX上取得了重大進展,宣布將支持英偉達的CUDA技術。這一創(chuàng)新舉措為人工智能開發(fā)者帶來了前所未有的靈活性和成本效益,標志著跨平臺開發(fā)的新紀元。
據(jù)Appleinsider的最新報道,開發(fā)者現(xiàn)在可以利用MLX框架在搭載Apple Silicon的Mac設備上開發(fā)AI應用,隨后將代碼無縫遷移至支持CUDA的英偉達顯卡或服務器環(huán)境中運行。這意味著開發(fā)者可以在macOS系統(tǒng)上輕松構建和測試模型原型,然后在部署階段無縫過渡到英偉達平臺,充分利用其強大的計算能力。
在此之前,MLX框架主要依賴于蘋果自家的metal框架,限制了其在非macOS系統(tǒng)上的運行。開發(fā)者若想在更廣泛的環(huán)境中部署應用,往往需要購買昂貴的英偉達硬件進行適配和測試,這無疑增加了開發(fā)成本和門檻。然而,隨著CUDA支持的加入,這一局面將得到顯著改善。
此次CUDA支持的實現(xiàn)得益于GitHub開發(fā)者@zcbenz的辛勤付出。他花費了數(shù)月時間進行開發(fā)、拆分和整合相關模塊,最終成功將代碼合并到MLX的主分支中。值得注意的是,這一更新并不意味著Mac設備將直接支持CUDA或能夠通過外接顯卡運行基于英偉達的MLX應用。其核心在于提供了“代碼導出兼容性”,為跨平臺部署奠定了堅實基礎。
對于開發(fā)者而言,這一更新帶來了顯著的成本控制優(yōu)勢。他們可以在性能強大且成本更低的Apple Silicon Mac上完成開發(fā)流程,僅在必要時轉(zhuǎn)移到昂貴的英偉達硬件上進行部署或訓練大型模型。這對于初創(chuàng)團隊和個人開發(fā)者來說,無疑大大降低了入門門檻,使他們能夠更專注于創(chuàng)新和研發(fā)。
由于英偉達硬件在AI訓練任務中的卓越表現(xiàn),MLX框架在遷移至CUDA平臺后,預計將獲得遠超Mac本地的性能提升。這將極大提高訓練效率和模型精度,為開發(fā)者帶來更加高效和準確的AI解決方案。
這一兼容性拓展不僅保留了Apple Silicon開發(fā)的高效體驗,還極大地拓展了部署層面的開放性。它可能成為MLX框架邁向更廣泛應用生態(tài)的重要里程碑,為人工智能開發(fā)者提供更加靈活和便捷的開發(fā)環(huán)境。