【ITBEAR】聯(lián)發(fā)科近期推出的天璣9400芯片，憑借其強(qiáng)大的AI算力，已成為2024年旗艦手機(jī)芯片的標(biāo)桿，并將應(yīng)用于vivo新款手機(jī)。這一芯片不僅提升了AI性能，更為手機(jī)用戶帶來(lái)了更多元化的體驗(yàn)。然而，手機(jī)AI的發(fā)展是否只能依賴高算力芯片，成為業(yè)界關(guān)注的焦點(diǎn)。
在此背景下，RockAI另辟蹊徑，通過(guò)算法優(yōu)化而非單純提升算力，實(shí)現(xiàn)了AI大模型在各類設(shè)備上的無(wú)損部署。其自研的Yan架構(gòu)大模型，采用非Transformer架構(gòu)和類腦激活機(jī)制，顯著降低了計(jì)算復(fù)雜度和算力消耗。
RockAI最新發(fā)布的Yan1.3大模型，具備處理文本、語(yǔ)音、視覺(jué)等多模態(tài)信息的能力，可在主流消費(fèi)級(jí)CPU等端側(cè)設(shè)備上無(wú)損運(yùn)行，且性能卓越。這一成就標(biāo)志著AI大模型不再受限于高算力設(shè)備，而是能夠廣泛應(yīng)用于各類終端設(shè)備。
Yan1.3大模型的本地部署特性，還為用戶帶來(lái)了數(shù)據(jù)安全和隱私保護(hù)的優(yōu)勢(shì)。在本地處理用戶數(shù)據(jù)，避免了重要資料和個(gè)人信息的外泄，同時(shí)減少了對(duì)網(wǎng)絡(luò)傳輸?shù)囊蕾嚕瑵M足了用戶在各種場(chǎng)景下的需求。
Yan1.3大模型還具備高效運(yùn)行和快速響應(yīng)的特點(diǎn)，能夠在CPU上實(shí)現(xiàn)秒級(jí)響應(yīng)，在GPU上更是達(dá)到百毫秒級(jí)實(shí)時(shí)處理。這一性能使得不同終端設(shè)備的交互體驗(yàn)更加流暢和絲滑。
RockAI致力于實(shí)現(xiàn)機(jī)器的群體智能，Yan架構(gòu)大模型作為其面向機(jī)器的群體智能單元大模型，不僅提升了單個(gè)設(shè)備的能力，還為機(jī)器注入了新的智能基因。當(dāng)智能體間的交互壁壘被打破，它們將能夠像人類一樣交流協(xié)作，釋放出超越個(gè)體的能力。
RockAI的創(chuàng)新之路，為AI大模型在終端設(shè)備上的應(yīng)用提供了新的思路。在AI技術(shù)日益普及的今天，如何更好地服務(wù)用戶、保護(hù)用戶隱私，成為業(yè)界共同關(guān)注的課題。
