AI手機的iPhone時刻
前不久,聯發科正式推出新一代旗艦5G智慧體AI芯片天璣9400。發布沒多久,它就成為了2024年旗艦手機芯片的標桿,并且會應用在即將上市的vivo手機上。
在這塊芯片強大性能的支持下,手機的AI算力顯著提升,AI功能豐富多樣,帶來用戶體驗的更多可能性。
將大模型裝進手機并且流暢運行,AI離我們越來越近了。但無法忽視的一件事是,受限于大模型對算力資源的需求,目前各家手機廠商的手機AI進化之路,幾乎都是建立在芯片的能力突破這一前提下。也就是說,脫離高算力的芯片,手機無法達到同等程度的AI升級。
我們不禁要問,米OV們在手機的AI突破上展現出真本事,是否只能依賴高算力芯片?在手機上運行更復雜的大模型,搭載天璣9400這樣的芯片是唯一路徑嗎?
另一條路:算力競賽算法優化
從設備的算力競賽轉到大模型的算法優化,RockAI一直堅持一條不一樣的道路,以通用的端側大模型去適配不同算力的終端設備,無需裁剪,無損部署,最大程度保證AI功能的完整呈現。
1.全新架構
非Transformer架構 類腦激活機制
當前市場上主流大模型普遍采用Transformer架構、Attention機制,對算力的要求非常高,這也是廠商升級芯片、設備的主要原因之一。許多業界人士提出AI的發展路線不應局限于Transformer架構,開發成本、計算資源、終端響應速度等因素倒逼大模型的革新。
在“高算力才能負載大模型”中尋找突破點,RockAI從底層神經網絡著手,自研Yan架構大模型,以MCSD(Multi-channel slope and decay)架構替代Transformer的Attention機制,并實現類腦分區激活,大大減少了計算復雜度和算力消耗。
2.全線適配
真端側 真無損 0壓0裁
本地部署 隱私安全
今年7月的WAIC大會上,未經壓縮裁剪的Yan1.2,能跑通算力不到普通家用筆記本的1/8、且低于絕大多數智能手機的樹莓派5,說明Yan架構大模型已經具備部署在大多數設備上的能力。
RockAI最新發布的Yan1.3群體智能單元大模型,作為一個3B 參數的多模態大模型,能夠處理文本、語音、視覺等多模態信息,可在主流消費級CPU等端側設備上無損運行,且綜合性能已經超越了Llama3。
與昂貴旗艦芯才有良好體驗的大模型,或經過壓縮量化性能有損的大模型相比,Yan1.3是更具普適性、高中低端設備輕松駕馭的“滿血”端側大模型。
目前,Yan1.3已經實現了手機、PC、無人機、機器人等設備的本地部署,從低算力到高算力,從消費級到工業級,讓智能不受限。
人工智能為人類帶來前所未有的便利,也引發了不容忽視的安全風險。無論個人還是企業,對數據安全和隱私保護的訴求日益提升。在本地部署的Yan1.3,天然具有保護隱私的優勢。以手機、PC為例,一方面可以在本地處理用戶數據,將數據保留在終端上,避免重要資料、個人信息的外泄,另一方面也減少了對網絡傳輸的依賴,可以滿足高鐵辦公、離線會議總結等網絡狀況不佳或斷網場景下的需求,讓用戶感受到AI的便利。
在本地運算的端側大模型不依賴網絡傳輸,意味著響應速度更快,可以直接在終端設備上進行智能化決策,是交互效率提升的理想選擇。憑借出色的架構設計和多模態處理能力,Yan1.3能夠實現設備上的高效運行,在CPU上秒級響應,GPU上更是百毫秒級實時處理,超強模力讓不同終端的交互體驗十分絲滑。
3.群體智能
自主學習 持續進化
強交互 高協同
RockAI認為群體智能才是通往人工智能的最終路徑,而實現群體智能包括四個發展階段:創新性基礎架構、多元化硬件生態、自適應智能進化、協同化群體智能。隨著Yan 1.3成功在多元設備端部署,RockAI已經完成了第二階段,為打通智能生態創造條件。
從生物的群體智能源起,機器的群體智能以一個個智能單元的協同、交互激發群體的智慧。Yan架構大模型作為RockAI面向機器的群體智能單元大模型,不只是為了提升單個設備的能力,更是為機器注入新的智能基因,讓世界上每一臺設備擁有自己的智能。
它們或許外觀不同、功能不同、適用場景不同,當智能體間的交互壁壘被打破,可以像人類一樣交流協作,釋放出超越個體的能力,形成群體智能系統,掀開群體智能的新篇章。
創新>follow
在AI滲透到各行各業的今天,或許我們更需要思考,為什么出發以及怎樣前進?
為了AI而AI,還是從人本主義出發普惠大眾?
獨立思考持續創新,還是follow?
RockAI不斷探索人工智能的出發點是,AI普惠。當下,還有更大多數值得我們關注,我們期待,通過另辟蹊徑,在實現商業價值的同時,最大程度實現社會價值,為AI普惠貢獻力量。
