Talk預(yù)告|22歲杜克在讀博士楊幻睿NeurIPS'20 Oral工作:提升深度學(xué)習(xí)魯棒性的新方法
本周為將門-TechBeat技術(shù)社區(qū)第261期線上Talk,也是NeurIPS 2020系列Talk第①彈!
北京時(shí)間12月3日(周四)晚8點(diǎn),杜克大學(xué)在讀博士生—楊幻睿的Talk將準(zhǔn)時(shí)在將門TechBeat技術(shù)社區(qū)開播!
他與大家分享的主題是:?“DVERGE:通過(guò)“缺陷”多樣化構(gòu)建魯棒集成深度學(xué)習(xí)模型”。屆時(shí)將分享其團(tuán)隊(duì)在NeurIPS?2020的Oral工作,介紹他們提出的利用集成模型提升深度學(xué)習(xí)魯棒性的DVERGE方法。

??「NeurIPS 2020群星閃耀云際會(huì)·機(jī)構(gòu)專場(chǎng)」火熱報(bào)名中,復(fù)制https://mp.weixin.qq.com/s/f1-0JfB0zNgS-TKzjT53IA至瀏覽器馬上報(bào)名~
點(diǎn)擊查看精彩預(yù)告視頻
??

Talk·信息
▼
主題:DVERGE:通過(guò)“缺陷”多樣化
構(gòu)建魯棒集成深度學(xué)習(xí)模型
嘉賓:杜克大學(xué)在讀博士生?楊幻睿
時(shí)間:北京時(shí)間?12月3日 (周四) 20:00
地點(diǎn):將門TechBeat技術(shù)社區(qū)
http://www.techbeat.net/
長(zhǎng)按識(shí)別二維碼,一鍵完成預(yù)約!

Talk·提綱
▼
最新研究表明,用于圖像識(shí)別任務(wù)的卷積神經(jīng)網(wǎng)絡(luò)往往表現(xiàn)出一致的“對(duì)抗性缺陷”:對(duì)抗攻擊算法可以生成很小的輸入噪聲誤導(dǎo)這些模型,并且同一對(duì)抗噪聲往往可以同時(shí)誤導(dǎo)在同一數(shù)據(jù)集上訓(xùn)練出的不同模型,即在模型間“遷移”。本文提出利用集成模型提升深度學(xué)習(xí)魯棒性的DVERGE方法。我們通過(guò)提取集合模型的子模型學(xué)到的“非魯棒特征”確定其缺陷所在,并進(jìn)一步通過(guò)多樣化子模型的缺陷使其面對(duì)對(duì)抗性噪聲輸出不同的結(jié)果。這一新穎的多樣性描述與優(yōu)化方式使DVERGE得到了超出其他集成學(xué)習(xí)方法的遷移攻擊魯棒性。
本次分享的主要內(nèi)容如下:1.?對(duì)抗性攻擊與對(duì)抗性訓(xùn)練
2.?魯棒特征與非魯棒特征
3.?DVERGE訓(xùn)練算法
4.?實(shí)驗(yàn)結(jié)果
Talk·參考資料
▼
這是本次分享中將會(huì)提及的資料,建議提前預(yù)習(xí)哦!代碼鏈接:
https://arxiv.org/abs/2009.14720
https://github.com/zjysteven/DVERGE
https://arxiv.org/abs/1905.02175
Talk·提問(wèn)交流
▼
方式 ①
在本文留言區(qū)直接提出你的問(wèn)題,或掃描下方二維碼提問(wèn)!問(wèn)題被選中的小伙伴們將獲得一個(gè)紅包獎(jiǎng)勵(lì)!

方式 ②
在Talk界面下的【交流區(qū)】參與互動(dòng)!留下你的打call??和問(wèn)題??,和更多小伙伴們共同討論,說(shuō)不定就被講者直接翻牌解答了呢!

你的每一次貢獻(xiàn),我們都會(huì)給予你相應(yīng)的i豆積分,近期還會(huì)有驚喜獎(jiǎng)勵(lì)哦!
Talk·嘉賓介紹
▼

楊幻睿,本科畢業(yè)于清華大學(xué)電子工程系,目前是美國(guó)杜克大學(xué)電子與計(jì)算機(jī)工程系博士四年級(jí)在讀學(xué)生,師從李海老師和陳怡然老師。楊幻睿的主要研究方向?yàn)槔孟∈?、量化等方式壓縮神經(jīng)網(wǎng)絡(luò)模型提升運(yùn)行效率,以及評(píng)估并增強(qiáng)深度學(xué)習(xí)模型的魯棒性,以期得到即高效又魯棒的適用于部署在現(xiàn)實(shí)世界中的深度學(xué)習(xí)模型。
在主要研究方向之外,楊幻睿也參與了組內(nèi)關(guān)于分布式學(xué)習(xí)、隱私保護(hù)、深度學(xué)習(xí)加速器體系結(jié)構(gòu)設(shè)計(jì)等工作。其參與的TIPRDC隱私保護(hù)框架被選為KDD2020 best student paper,一作撰寫的論文DVERGE入選NeurIPS 2020 Oral presentation。
長(zhǎng)按識(shí)別二維碼,一鍵完成預(yù)約!

關(guān)于TechBeat社區(qū)?
▼
TechBeat(www.techbeat.net)是一個(gè)薈聚全球華人AI精英的成長(zhǎng)社區(qū)。
我們希望為AI人才打造更專業(yè)的服務(wù)和體驗(yàn),加速并陪伴其學(xué)習(xí)成長(zhǎng)。期待這里可以成為你學(xué)習(xí)AI前沿知識(shí)的高地,分享自己最新工作的沃土,在AI進(jìn)階之路上的升級(jí)打怪的根據(jù)地!? ? ? ? ? 更多詳細(xì)介紹>>https://mp.weixin.qq.com/s/ZvpsWbOl6bBwNtSU0Ln0ew