在北京大學(xué)新燕園校區(qū)計(jì)算機(jī)大樓內(nèi)，一場(chǎng)聚焦于昇騰技術(shù)棧在大模型應(yīng)用中的前沿探索特訓(xùn)營(yíng)圓滿(mǎn)落幕。此次活動(dòng)由北京大學(xué)鯤鵬昇騰科教創(chuàng)新卓越中心主辦，旨在通過(guò)深度解析與實(shí)踐操作，拓寬學(xué)生們的創(chuàng)新思維與學(xué)術(shù)視野，特別是在SCOW平臺(tái)和華為昇騰技術(shù)的融合應(yīng)用上。
活動(dòng)伊始，昇騰生態(tài)技術(shù)專(zhuān)家許濤帶來(lái)了一場(chǎng)關(guān)于DeepSeek-MoE模型技術(shù)演變的精彩演講。他詳細(xì)闡述了DeepSeek系列模型如何通過(guò)不斷增大模型規(guī)模、增加專(zhuān)家數(shù)量以及優(yōu)化專(zhuān)家激活比等策略，實(shí)現(xiàn)性能上的顯著提升。許濤還提到，昇騰平臺(tái)已完成了對(duì)DeepSeek的適配，能夠高效利用超節(jié)點(diǎn)內(nèi)的高速通信帶寬，為DeepSeek時(shí)代的發(fā)展奠定了堅(jiān)實(shí)基礎(chǔ)。
隨后，北京大學(xué)計(jì)算中心工程師龍汀汀分享了基于昇騰的DeepSeek全棧開(kāi)源推理方案。該方案依托北京大學(xué)自主研發(fā)的SCOW算力平臺(tái)系統(tǒng)，整合了多個(gè)開(kāi)源組件，旨在通過(guò)開(kāi)放協(xié)作打破技術(shù)壁壘，推動(dòng)技術(shù)創(chuàng)新。龍汀汀現(xiàn)場(chǎng)演示了該系統(tǒng)如何快速適應(yīng)不同的AI框架，并展示了其在多種應(yīng)用場(chǎng)景下的卓越性能。
在特訓(xùn)營(yíng)的開(kāi)發(fā)實(shí)戰(zhàn)環(huán)節(jié)，學(xué)生們迎來(lái)了期待已久的動(dòng)手實(shí)踐機(jī)會(huì)。他們基于昇思MindSpore框架，在香橙派AI Pro開(kāi)發(fā)板上進(jìn)行模型部署。香橙派昇騰系列產(chǎn)品與DeepSeek模型的深度適配，使得邊緣離線(xiàn)部署變得輕松高效。學(xué)生們通過(guò)實(shí)操，親身感受到了昇騰技術(shù)在邊緣設(shè)備上的強(qiáng)大算力，以及積木式開(kāi)發(fā)的便捷性。這種“端側(cè)智能”的實(shí)戰(zhàn)體驗(yàn)，不僅激發(fā)了學(xué)生們的學(xué)習(xí)興趣，更讓他們領(lǐng)略到了AI落地應(yīng)用的無(wú)限可能。
活動(dòng)的高潮部分，莫過(guò)于技術(shù)專(zhuān)家與學(xué)者面對(duì)面的開(kāi)放討論環(huán)節(jié)。學(xué)生們積極提問(wèn)，從鯤鵬昇騰設(shè)備的使用到技術(shù)難題的解決，再到未來(lái)發(fā)展趨勢(shì)的展望，專(zhuān)家們一一給予細(xì)致且富有前瞻性的解答。關(guān)于算子開(kāi)發(fā)與適配、開(kāi)源編譯器支持等問(wèn)題，專(zhuān)家們不僅介紹了相關(guān)接口的開(kāi)源情況以及正在推進(jìn)的研發(fā)工作，還鼓勵(lì)高校師生將解決問(wèn)題的過(guò)程發(fā)布為案例教程，為學(xué)生們后續(xù)的開(kāi)發(fā)工作提供了有力支持。專(zhuān)家們還深入探討了華為在端側(cè)異構(gòu)模型部署方面的布局和技術(shù)優(yōu)勢(shì)，讓學(xué)生們對(duì)華為計(jì)算生態(tài)的潛力有了更深刻的認(rèn)識(shí)。
此次特訓(xùn)營(yíng)的成功舉辦，不僅展示了北京大學(xué)鯤鵬昇騰科教創(chuàng)新卓越中心在AI技術(shù)創(chuàng)新和人才培養(yǎng)方面的實(shí)力，更為學(xué)生們提供了一個(gè)與業(yè)界專(zhuān)家面對(duì)面交流、學(xué)習(xí)的寶貴機(jī)會(huì)。通過(guò)深度解析、實(shí)踐操作與開(kāi)放討論相結(jié)合的方式，學(xué)生們不僅拓寬了學(xué)術(shù)視野，更激發(fā)了創(chuàng)新思維，為未來(lái)的科研創(chuàng)新與技術(shù)應(yīng)用奠定了堅(jiān)實(shí)基礎(chǔ)。
