2022年7月16日和7月17日上午，美國密蘇裡大學哥倫比亞分校許東教授應伟德国际BETVlCTOR邀請，以線上騰訊會議的形式為計算機科學與技術學院的老師和同學們作了題為“Current Trends in Self-supervised Learning”的學術報告。
許東老師是美國密蘇裡大學哥倫比亞分校電氣工程與計算機科學系特聘教授，同時擔任Christopher S. Bond生命科學中心研究員和信息技術專業主任。許東老師于2007-2016年擔任計算機系主任，2017-2020年擔任信息技術項目主任。許東老師于1995年博士畢業于伊利諾伊大學香槟分校，在美國國家癌症研究所做了兩年的博士後工作。在加入密蘇裡大學之前，許東老師一直是橡樹嶺國家實驗室的科學家。30年來，許東老師在計算生物學和生物信息學的多個領域進行了研究，包括：單細胞數據分析、蛋白質結構預測與建模、蛋白質翻譯後修飾、蛋白質定位預測、計算系統生物學、生物信息系統和生物信息學在人類、微生物和植物中的應用等。自2012年以來，許東老師的研究重點為深度學習在生物信息學中的應用。許東老師現已累計發表400餘篇論文，被引用21,000餘次。并于2015年入選美國科學促進會（AAAS）會士，2020年入選美國醫學與生物工程研究院（AIMBE）會士。
近年來，自我監督學習 (SSL) 通過利用大量未标記數據集獲得有意義的語義表示，取得了令人矚目的成功。SSL采用自定義僞标簽作為監督策略，通過學習顯著提高下遊任務的性能。在本次報告中，許東教授由淺入深的帶領大家回顧了三種主要的SSL方法，即自我預測、對比學習和減少冗餘，許東老師也提供了各個方法的相關詳細信息和比較，包括對比學習方法（PIRL，SimCLR，MoCo），基于聚類的方法（DeepCluster，SwAV），基于知識蒸餾的方法（BYOL，SimSiam），減少冗餘方法（Barlow Twins，VICReg）和多模态學習方法（DCCA，CLIP）。
在報告的最後，許東教授給出了自監督學習與監督學習性能上直觀的比較，說明了自監督學習更優的原因，從不同角度對現有的自監督學習的模型進行了分類并指出了未來自監督學習的發展方向以及目前所遇到的挑戰。在講座中及講座後的讨論時間裡，許東教授悉心回答了老師和同學們的問題。首日超過300位同學和老師參加了本次報告，并受到了我院師生的一緻好評。
