北京時間2月9日,國際人工智能頂級學(xué)術(shù)會議——2021年度AAAI會議(線上形式)順利閉幕。同日,AAAI 2021收官議程之一——“健壯、安全、高效的機(jī)器學(xué)習(xí)”國際研討會召開。本研討會由國內(nèi)首家互聯(lián)網(wǎng)銀行微眾銀行與南洋理工大學(xué)、加州大學(xué)伯克利分校、麻省理工學(xué)院等聯(lián)合主辦,邀請了多位世界頂尖科學(xué)家及從業(yè)者探討了當(dāng)前AI產(chǎn)業(yè)化的熱點(diǎn)話題,并形成了豐富的學(xué)術(shù)成果。
本屆AAAI大會主席、微眾銀行首席人工智能官楊強(qiáng)教授出席研討會并開幕致辭。楊強(qiáng)教授表示,近年來,在眾多人工智能應(yīng)用場景中,對隱私保護(hù)的重視程度越來越高。市場需求的驅(qū)動之下,機(jī)器學(xué)習(xí)、遷移學(xué)習(xí)、聯(lián)邦學(xué)習(xí)等技術(shù)在全球得以蓬勃發(fā)展,在保護(hù)數(shù)據(jù)安全性方面,這些技術(shù)已成為人工智能產(chǎn)業(yè)化過程中的基礎(chǔ)建設(shè)。此次AAAI主會就收錄了相當(dāng)多相關(guān)論文,而研討會收錄了來自世界各地的最新成果論文投稿20篇,這些論文主要圍繞機(jī)器學(xué)習(xí)的安全性和魯棒性、聯(lián)邦學(xué)習(xí)、隱私保護(hù)、計(jì)算效率等主要議題。
加州大學(xué)伯克利分校Kurt Keutzer教授,京東大數(shù)據(jù)首席科學(xué)家、匹茲堡大學(xué)黃恒教授作為特邀嘉賓作主題演講。研討會同時還設(shè)置了三場技術(shù)講座,并與參會者進(jìn)行了在線互動。
加州大學(xué)伯克利分校Kurt Keutzer教授以《Efficiency is the Key to Privacy (and Security)》為主題作開場演講。Kurt Keutzer的主要研究方向?yàn)樯疃葘W(xué)習(xí)中的計(jì)算問題。在演講中,他認(rèn)為,針在私人數(shù)據(jù)使用中需要兼顧提供服務(wù)與隱私保護(hù)兩者間的平衡,與語音、視頻等相關(guān)的本地個人數(shù)據(jù)處理似乎是確保安全和隱私的唯一完全有效的方法。但是,在不訪問云端的情況下執(zhí)行這些計(jì)算需要對學(xué)習(xí)算法的效率進(jìn)行重大改進(jìn)。
議程隨后進(jìn)入首場技術(shù)講座和在線互動,Alberto Matachana、Kenneth Co、Luis Muñoz-González、David Martinez 和Emil Lupu等幾位專家的研究成果探討了“通用攻擊對壓縮模型的魯棒性和可轉(zhuǎn)移性”。Yi Zhu、Yiwei Zhou、Menglin Xia等學(xué)者介紹了如何生成語義的有效對抗性。
京東大數(shù)據(jù)首席科學(xué)家、匹茲堡大學(xué)黃恒教授在第二場主題演講標(biāo)題為《Vertical Federated Kernel Learning》,演講結(jié)合京東電商平臺的實(shí)戰(zhàn)經(jīng)驗(yàn),生動闡釋了如何在保持傳統(tǒng)機(jī)器學(xué)習(xí)算法數(shù)據(jù)私密性的同時,有效地應(yīng)用垂直特征分類的數(shù)據(jù)。他表示,縱向聯(lián)邦學(xué)習(xí)已被用于解決此類情況,并取得了良好效果。但是,大多數(shù)現(xiàn)有的縱向聯(lián)邦學(xué)習(xí)方法都是線性模型,為了提高預(yù)測性能,該研究將重點(diǎn)放在內(nèi)核的非線性學(xué)習(xí)上,并針對垂直分割的數(shù)據(jù)提出了一種聯(lián)邦雙隨機(jī)內(nèi)核學(xué)習(xí)(FDSKL)算法,以保證數(shù)據(jù)安全。
線上研討會氣氛熱烈、議程緊湊。在第二場技術(shù)講座和交流中,Shuhao Fu、Chulin Xie、Bo Li及Qifeng Chen、Chang Song、Elias Fallon 、Hai Li的論文圍繞“基于殘差權(quán)重的抗攻擊聯(lián)合學(xué)習(xí)”及“提高權(quán)重量化神經(jīng)網(wǎng)絡(luò)的對抗魯棒性”兩個前沿技術(shù)話題與參會者一起進(jìn)行了討論。高密度、高專業(yè)價值、多角度的嘉賓發(fā)言,展示出了當(dāng)前國際AI技術(shù)領(lǐng)域較為全面的學(xué)術(shù)觀點(diǎn)。
第三場技術(shù)講座討論了強(qiáng)化學(xué)習(xí)和編碼學(xué)習(xí),Xiaoyang Wang、Bo Li、Jacky Zhang、 Bhavya Kailkhura 、Klara Nahrstedt、Nasser Aldaghri、Hessam Mahdavifar 、Ahmad Beirami等多位研究者的論文引發(fā)了熱烈的討論。
機(jī)器學(xué)習(xí)是人工智能的核心。聯(lián)邦學(xué)習(xí)、深度學(xué)習(xí)、遷移學(xué)習(xí)等作為子分支和機(jī)器學(xué)習(xí)的最新研究方向,既是一種技術(shù),又可視為一種商業(yè)模式。尤其近年來,在人工智能產(chǎn)業(yè)化加速的過程中,各國均投入了巨大的科研成本,以期搶占“制高點(diǎn)”。國外如加州伯克利分校、南洋理工大學(xué)等名校及科研機(jī)構(gòu),谷歌、亞馬遜、Facebook、微軟等科技公司,紛紛展開研究和場景落地;國內(nèi)如中科院、清華大學(xué)、同濟(jì)大學(xué)等科研院所,微眾銀行、京東、百度等公司持續(xù)推動,機(jī)器學(xué)習(xí)技術(shù)的產(chǎn)業(yè)落地生態(tài)已進(jìn)入“百家爭鳴、百花齊放”的繁榮期。
自國內(nèi)首次提出“聯(lián)邦學(xué)習(xí)”概念,微眾銀行、騰訊、京東等公司牽頭建立相關(guān)行業(yè)標(biāo)準(zhǔn)、成立相關(guān)行業(yè)協(xié)會,積極探索并將聯(lián)邦學(xué)習(xí)應(yīng)用于金融、醫(yī)療、生物制藥等領(lǐng)域。如本次研討會的主題設(shè)定,以“健壯、安全、高效”為特點(diǎn)的機(jī)器學(xué)習(xí)、聯(lián)邦學(xué)習(xí)已經(jīng)成為全球AI產(chǎn)業(yè)化的“基礎(chǔ)設(shè)施”和行業(yè)共識。