報告題目：面向聯邦學習的用戶級隐私攻擊
報告時間：2019年11月13日下午16:00
報告地點：計算機樓A521
報告人：王志波 教授
報告人簡介：
王志波，博士，武漢大學國家網絡安全學院教授，入選湖北省“楚天學者”、武漢大學“珞珈青年學者”，并榮獲了ACM武漢學術新星獎。2007年畢業于浙江大學信息學院自動化專業，獲學士學位；2014年畢業于美國田納西大學，獲計算機工程博士學位。研究方向包括物聯網、移動感知與計算、網絡安全與隐私保護、人工智能安全。在網絡與安全領域著名期刊和會議上發表論文80餘篇，包括CCF A類長文19篇，分别發表在TMC、TDSC、TPDS、ICCV、CCS、INFOCOM等頂級期刊和會議上，其中7篇論文入選ESI高被引論文。主持或參與多項國家級省部級項目，受邀擔任IEEE ACCESS等期刊編委，以及IEEE INFOCOM、IEEE IPCCC、Globecom、ICC等多個國際會議的大會程序委員。現為IEEE高級會員、ACM會員及CCF高級會員，CCF物聯網專委會常委，CCF網絡與數據通信專委會委員，中國通信學會雲計算與大數據應用委員會首屆委員。
報告内容簡介：
聯邦學習是一種分布式機器學習框架，近年來在隐私安全與機器學習領域受到廣泛關注和研究。相比于傳統的集中式學習框架，聯邦學習将模型的訓練過程轉移到了用戶端，僅需要用戶周期性地提交模型參數更新就能完成模型訓練，避免了服務端對用戶數據的惡意訪問和濫用。本次報告針對聯邦學習中的隐私問題，提出了一個基于惡意服務端的用戶隐私數據重建攻擊方法。該方法通過建立一個多任務生成對抗網絡模型來模拟用戶的數據分布，并利用用戶參數更新來計算其數據表征，以此重建特定用戶隐私數據。相比已有的攻擊方法隻能重建表征某個類别的樣本數據，這種新的攻擊方法可以實現用戶級的數據重建，并通過手寫數字分類和人臉識别兩個任務驗證了攻擊有效性。此外，闡明了模型參數更新中包含了過多的隐私信息，現有聯邦學習框架仍存在安全隐患。
主辦單位：
伟德国际BETVlCTOR
伟德国际BETVlCTOR軟件學院
伟德国际BETVlCTOR計算機科學技術研究所
符号計算與知識工程教育部重點實驗室
伟德国际BETVlCTOR國家級計算機實驗教學示範中心
