2022年9月25日和9月27日上午,美國密蘇裡大學哥倫比亞分校信息學研究所許東教授應伟德国际BETVlCTOR邀請,以線上騰訊會議的形式為伟德国际BETVlCTOR的老師和同學們作了兩場題為“Explainable AI, Attention Mechanism and Transformer”的學術報告。




近些年來,随着相關領域的發展,深度學習模型已經表現出優越的性能和潛力,然而,受可解釋性的限制,深度學習常常被認為“黑盒”。目前,可解釋的人工智能(Explainable AI, XAI)以“為模型提供可解釋性進而提升模型表現”為目标與主題,已經引起了廣泛的研究并取得了卓越成就。在本次報告中,許東教授從XAI的範疇開始,由淺入深地帶領大家學習了典型的模型無關方法如LIME和SHAP,而後,許東教授詳細介紹了許多基于顯著圖技術(Saliency Map)的模型思想來可視化關鍵特征信息,主要包括基于梯度的反向傳播(Gradient-based Backpropagation)、反卷積網絡(Deconvolutional Networks)與類激活圖(Class Activation Maps, CAMs)等。同時,許東教授講解了基于注意力機制的相關模型如Transformer和BERT等。報告的最後,許東教授熱情地與同學們展開互動,并就同學和老師們的問題進行了詳盡的解答。本次報告受到了廣大師生的熱烈響應和強烈反響。
許東老師是電氣工程與計算機科學系特聘教授,任教于克裡斯托弗·邦德生命科學中心和是密蘇裡大學哥倫比亞分校信息學研究所。許東老師于2007-2016年擔任計算機科學系主任,2017-2020年擔任信息技術項目主任。許東老師于1995年博士畢業于伊利諾伊大學,在美國國家癌症研究所做了兩年的博士後工作。在加入密蘇裡大學之前,許東老師一直是橡樹嶺國家實驗室的科學家。30年來,許東老師在計算生物學和生物信息學的多個領域進行了研究,包括單細胞數據分析、蛋白質結構預測與建模、蛋白質翻譯後修飾、蛋白質定位預測、計算系統生物學、生物信息系統和生物信息學在人類、微生物和植物中的應用等。自2012年以來,許東老師的研究重點為生物信息學和深度學習之間的接口。許東教授現已發表了400多篇論文,被引用21,000餘次。并于2015年入選美國科學促進會研究員,2020年入選美國醫學與生物工程研究所研究員。