在各類AI大會(huì)里,英偉達(dá)每年兩次的GTC大會(huì)可謂頗有名頭。這當(dāng)然不僅僅是因?yàn)橛ミ_(dá)的GPU產(chǎn)品在AI產(chǎn)業(yè)有著舉足輕重的地位,也是因?yàn)镚TC大會(huì)連續(xù)多年帶來的技術(shù)熱點(diǎn)、行業(yè)洞見和指導(dǎo)培訓(xùn),讓開發(fā)者得到了切實(shí)的幫助。
而自去年蘇州闊別一年后,NVIDIA GTC 2020終于回到了我們的身邊。此次GTC 2020采用了線上直播的形式,而內(nèi)容卻不會(huì)因?yàn)樾问降母淖兌薪z毫的改變。一樣的精彩紛呈,一樣的干貨與技術(shù)并重,在去年便貢獻(xiàn)了精彩內(nèi)容的百度飛槳,今年帶著四場(chǎng)演講回來了。
飛槳以百度多年的深度學(xué)習(xí)技術(shù)研究和業(yè)務(wù)應(yīng)用為基礎(chǔ),集深度學(xué)習(xí)核心框架、基礎(chǔ)模型庫、端到端開發(fā)套件、工具組件和服務(wù)平臺(tái)于一體,是全面開源開放、技術(shù)領(lǐng)先、功能完備的產(chǎn)業(yè)級(jí)深度學(xué)習(xí)平臺(tái)。去年GTC,飛槳 (PaddlePaddle)秉持技術(shù)實(shí)踐與理論知識(shí)并行的理念,為開發(fā)者帶來了一場(chǎng)收獲滿滿的技術(shù)公開課。
今年,飛槳在GTC 2020上帶來的四場(chǎng)演講也是誠意十足,內(nèi)容覆蓋了飛槳推理引擎、大規(guī)模分布式訓(xùn)練、EasyDL零門檻高精度AI服務(wù)定制、機(jī)器學(xué)習(xí)開發(fā)環(huán)境BML CodeLab等諸多內(nèi)容。四場(chǎng)演講將會(huì)在GTC 2020輪番上陣,讓我們來看一下吧!
演講一、飛槳推理引擎性能優(yōu)化
12月15日下午17:00的GTC 2020《深度學(xué)習(xí)平臺(tái)及應(yīng)用》分論壇上,百度資深研發(fā)工程師商智洲將會(huì)為我們率先帶來飛槳推理引擎性能優(yōu)化的演講。
此次演講將介紹飛槳原生推理引擎Paddle Inference,以及該引擎中針對(duì)GPU推理做的優(yōu)化工作。飛槳推理引擎是飛槳模型推理部署的重要基礎(chǔ),已在百度內(nèi)部各核心業(yè)務(wù)線和眾多ToB交付的AI服務(wù)中經(jīng)過充分驗(yàn)證。我們首先介紹飛槳推理引擎針對(duì)GPU推理所做的通用優(yōu)化措施,如OP融合、顯存復(fù)用、TensorRT 集成、混合精度推理等;同時(shí)會(huì)以文心(ERNIE)模型的推理優(yōu)化為例來說明針對(duì)特定模型的推理優(yōu)化方法及效果。
此次演講內(nèi)容將會(huì)以深度學(xué)習(xí)推理技術(shù)的優(yōu)化和部署為主,在活動(dòng)進(jìn)行的同時(shí),飛槳講師將會(huì)與參會(huì)者在線互動(dòng),為聽眾們答疑解惑。
演講二、大規(guī)模分布式訓(xùn)練進(jìn)展與應(yīng)用
12月17日《云計(jì)算和消費(fèi)者互聯(lián)網(wǎng)》分論壇中,百度主任研發(fā)架構(gòu)師董大祥,將為大家揭秘飛槳框架大規(guī)模分布式訓(xùn)練進(jìn)展與應(yīng)用的秘密。此次演講主題將會(huì)圍繞飛槳框架的大規(guī)模訓(xùn)練與應(yīng)用展開,介紹大規(guī)模分布式訓(xùn)練的功能、性能、以及在產(chǎn)業(yè)中的實(shí)踐。當(dāng)前飛槳框架2.0RC版本已經(jīng)release并邀請(qǐng)廣大用戶試用。
演講三、用EasyDL零門檻定制高精度AI服務(wù)
12月15日《深度學(xué)習(xí)平臺(tái)及應(yīng)用》分論壇上,百度資深研發(fā)工程師胡鳴人,百度高級(jí)研發(fā)工程師劉杰,兩位老師將會(huì)攜手為大家講述高精度AI服務(wù)的打造。
此次演講將會(huì)從實(shí)際需求背景出發(fā),介紹EasyDL產(chǎn)品和核心技術(shù)特性;介紹EasyDL效果優(yōu)化的各項(xiàng)實(shí)現(xiàn)以及NVIDIA GPU與EasyDL的結(jié)合帶來的優(yōu)化;演講最后還將解析基于GPU進(jìn)行EasyDL模型部署和實(shí)操。
這一課程會(huì)更加注重內(nèi)容的細(xì)粒度,基于深度學(xué)習(xí)技術(shù)用例和成功案例,為參會(huì)者從0開始講解如何實(shí)現(xiàn)優(yōu)化和部署,讓每個(gè)人都有機(jī)會(huì)接觸并掌握相關(guān)技術(shù)知識(shí)。
演講四、面向機(jī)器學(xué)習(xí)的開發(fā)環(huán)境BML CodeLab介紹
在12月15日的《GPU開發(fā)與工具》分論壇中,百度AI 開發(fā)平臺(tái)總架構(gòu)師馬如悅將會(huì)為開發(fā)者分享面向機(jī)器學(xué)習(xí)的開發(fā)環(huán)境BML CodeLab介紹。
此次演講將會(huì)圍繞開發(fā)環(huán)境BML CodeLab展開,幫助開發(fā)者實(shí)現(xiàn)零門檻機(jī)器學(xué)習(xí)開發(fā)。演講的內(nèi)容主要分為三個(gè)部分:
1. 交互開發(fā)環(huán)境BML CodeLab的背景和特色,并快速入安裝和使用。BML CodeLab基于JupyterLab改進(jìn)優(yōu)化,可靈活部署到開發(fā)者本地單機(jī)、IDC 機(jī)器、云上托管資源等。在性能上做了高度優(yōu)化,新增眾多企業(yè)級(jí)特征,并在單機(jī)資源受限時(shí)無縫擴(kuò)展到云上集群。
2. 高性能數(shù)據(jù)科學(xué)引擎的原理,用于提升分析建模速度。利用GPU和CPU眾核并行加速及混合計(jì)算、超大數(shù)據(jù)處理、高效數(shù)據(jù)存儲(chǔ)等技術(shù),讓數(shù)據(jù)科學(xué)開發(fā),既保持單機(jī)的簡(jiǎn)單易用,又媲美分布式系統(tǒng)的處理能力。內(nèi)置高性能引擎的BML CodeLab,性能比開源產(chǎn)品提升近十倍。
3. 內(nèi)置的易用開發(fā)插件,用于提升開發(fā)效率。基于開源Jupyterlab擴(kuò)展機(jī)制,BML CodeLab 集成眾多功能豐富、簡(jiǎn)單易用的開發(fā)工具。如:輕量級(jí)機(jī)器學(xué)習(xí)。應(yīng)用開發(fā)小程序插件,通過簡(jiǎn)單Python代碼,將分析訓(xùn)練成果發(fā)布成高性能應(yīng)用; AI 工作流程插件,管理工作流編排和跟蹤實(shí)驗(yàn),提升迭代效率。
以創(chuàng)新無止境為主題,今年的GTC 2020將會(huì)在12月15~19日與開發(fā)者朋友們正式見面。百度飛槳已經(jīng)備下了干貨內(nèi)容,就等與老友再次相見。如果你也對(duì)飛槳演講的內(nèi)容感興趣,千萬不要忘記點(diǎn)擊閱讀原文,報(bào)名參加哦!
關(guān)于飛槳
飛槳(PaddlePaddle)以百度多年的深度學(xué)習(xí)技術(shù)研究和業(yè)務(wù)應(yīng)用為基礎(chǔ),是中國首個(gè)開源開放、技術(shù)領(lǐng)先、功能完備的產(chǎn)業(yè)級(jí)深度學(xué)習(xí)平臺(tái),包括飛槳開源平臺(tái)和飛槳企業(yè)版。飛槳開源平臺(tái)包含核心框架、基礎(chǔ)模型庫、端到端開發(fā)套件與工具組件,持續(xù)開源核心能力,為產(chǎn)業(yè)、學(xué)術(shù)、科研創(chuàng)新提供基礎(chǔ)底座。飛槳企業(yè)版基于飛槳開源平臺(tái),針對(duì)企業(yè)級(jí)需求增強(qiáng)了相應(yīng)特性,包含零門檻AI開發(fā)平臺(tái)EasyDL和全功能AI開發(fā)平臺(tái)BML。EasyDL主要面向中小企業(yè),提供零門檻、預(yù)置豐富網(wǎng)絡(luò)和模型、便捷高效的開發(fā)平臺(tái);BML是為大型企業(yè)提供的功能全面、可靈活定制和被深度集成的開發(fā)平臺(tái)。