【ITBEAR科技資訊】7月19日消息，愛芯元智宣布在中國正式啟用其核心技術(shù)混合精度NPU的中文名稱為"愛芯通元?"。此消息是在第三屆中國集成電路設(shè)計(jì)創(chuàng)新大會(huì)暨無錫IC應(yīng)用博覽會(huì)(ICDIA 2023)的"AIoT與ChatGPT"專題論壇上宣布的。在該論壇上，愛芯元智聯(lián)合創(chuàng)始人兼副總裁劉建偉發(fā)表了題為"愛芯元智AX650N Transformer端邊落地平臺(tái)"的主題演講，介紹了第三代SoC芯片AX650N在端側(cè)和邊緣側(cè)部署Transformer的領(lǐng)先優(yōu)勢。
據(jù)ITBEAR科技資訊了解，近年來，AIoT行業(yè)規(guī)模迅速增長，成為各大傳統(tǒng)行業(yè)實(shí)現(xiàn)智能升級的最佳途徑，也是物聯(lián)網(wǎng)未來發(fā)展的重要方向。同時(shí)，以ChatGPT為代表的大型模型在2022年底發(fā)布以來引發(fā)了國內(nèi)外科技巨頭的廣泛關(guān)注，人工智能進(jìn)入了一個(gè)全新的時(shí)代。隨著AIoT和AI大型模型的快速發(fā)展，對底層硬件的數(shù)據(jù)存儲(chǔ)、計(jì)算性能和圖形處理能力提出了極高要求。
在愛芯元智看來，大型模型具備通識(shí)能力，可以降低人工智能在實(shí)際應(yīng)用中的成本，未來每個(gè)人都可能在終端擁有一個(gè)智能助手。因此，愛芯元智致力于提供人工智能芯片的基礎(chǔ)設(shè)施，即通過人工智能芯片提供感知和計(jì)算的基本能力，助力AI在端側(cè)和邊緣側(cè)實(shí)現(xiàn)落地。
在感知方面，愛芯元智致力于提升攝像頭的視覺清晰度，從而為數(shù)字化世界打造入口;在計(jì)算方面，愛芯元智致力于使攝像頭能夠理解圖像內(nèi)容，為各種AI模型在端側(cè)和邊緣側(cè)的實(shí)際應(yīng)用提供更高的計(jì)算能力基礎(chǔ)。在本次ICDIA 2023上，愛芯元智正式公布了混合精度NPU的中文名稱"愛芯通元?"，旨在為各種智能算法提供基本的計(jì)算能力支持，使得智能在端側(cè)和邊緣側(cè)對世界有更深入的理解，從而促進(jìn)更美好的生活。
愛芯元智定位為人工智能感知與邊緣計(jì)算的基礎(chǔ)算力平臺(tái)，自2019年成立以來一直專注于感知和計(jì)算基礎(chǔ)能力的研發(fā)。他們自主研發(fā)了愛芯智眸?AI-ISP和愛芯通元?混合精度NPU這兩項(xiàng)核心技術(shù)。其中，愛芯通元?混合精度NPU通過減少內(nèi)存和功耗的限制，在端側(cè)和邊緣側(cè)受到面積和功耗限制的情況下，以更高的有效算力支持更多智能算法的部署，從而降低了AI的成本。
目前，愛芯元智已經(jīng)完成了四代多顆芯片產(chǎn)品的研發(fā)和量產(chǎn)，并逐漸應(yīng)用于智慧城市、智能駕駛和AIoT等三大市場。劉建偉表示："這些市場都將感知和計(jì)算作為基本能力，這也是愛芯元智選擇不同市場的邏輯"。
在AI芯片設(shè)計(jì)開發(fā)過程中，愛芯元智高度重視應(yīng)用、算法和NPU的緊密結(jié)合。在應(yīng)用方面，他們通過數(shù)據(jù)流優(yōu)化和前后級處理加速等手段來提高性能;在算法方面，他們通過算子加速、網(wǎng)絡(luò)微結(jié)構(gòu)加速和內(nèi)存優(yōu)化等設(shè)計(jì)來提高硬件的利用率;此外，愛芯通元?混合精度NPU是一個(gè)異構(gòu)多核系統(tǒng)，內(nèi)置多核硬件調(diào)度機(jī)制，減少對CPU的占用，提高系統(tǒng)應(yīng)用的運(yùn)行速度。
基于應(yīng)用、算法和NPU的聯(lián)合優(yōu)化設(shè)計(jì)理念，愛芯元智推出的邊緣側(cè)和端側(cè)人工智能處理器芯片具有高性能、低功耗等優(yōu)勢，其第三代高算力、高能效比的SoC芯片AX650N成為Transformer網(wǎng)絡(luò)的最佳落地平臺(tái)。
實(shí)測數(shù)據(jù)顯示，愛芯元智AX650N不僅在傳統(tǒng)的CNN網(wǎng)絡(luò)上表現(xiàn)出色，在端側(cè)部署Transformer網(wǎng)絡(luò)SwinT時(shí)也表現(xiàn)出眾，實(shí)現(xiàn)了361FPS的高性能、80.45%的高精度、199 FPS/W的低功耗，并且可以輕松部署原始模型和PTQ量化模型。同時(shí)，AX650N還支持低比特混合精度，如果采用INT4模式，可以大大減少內(nèi)存和帶寬的占用率，從而有效控制端側(cè)和邊緣側(cè)部署的成本。
目前，愛芯元智AX650N已適配了ViT/DeiT、Swin/SwinV2、DETR等Transformer模型，甚至最先進(jìn)的計(jì)算機(jī)視覺自監(jiān)督模型DINOv2在AX650N上也能實(shí)現(xiàn)每秒30幀以上的運(yùn)行效果。為了幫助開發(fā)者更好地嘗試Transformer網(wǎng)絡(luò)的應(yīng)用，愛芯元智還推出了基于AX650N的開發(fā)套件"愛芯派Pro"，該套件面向生態(tài)社區(qū)和行業(yè)應(yīng)用，助力探索更豐富的產(chǎn)品應(yīng)用。
面對大型模型引發(fā)的新一輪人工智能熱潮，愛芯元智AX650N將進(jìn)一步優(yōu)化Transformer的結(jié)構(gòu)，并探索多模態(tài)方向的Transformer模型。愛芯元智希望通過感知和計(jì)算的核心技術(shù)，加速人工智能在端側(cè)和邊緣側(cè)的實(shí)際應(yīng)用，真正實(shí)現(xiàn)人人可享的普惠人工智能，讓人們的生活變得更加美好。
