信息与智能工程学院网络与信息安全方向于8月4日开展暑期学术讲座,邀请福建师范大学计算机与网络空间安全学院的林晖教授就AI安全进行线上的学术讲座,讲座由杨明教授主持,讲座的题目是“联邦学习工具与防御”,参与者主要为学院教师与学生代表。
林晖教授的讲座包括研究背景与挑战、研究内容和总结展望三个主要部分。在研究背景与挑战中,林教授介绍了联邦学习下后门攻击的演进与挑战,目前的联邦学习应用中面临单模态同质数据源、多模态同质数据源和异构模型等多种情况,不同情况会导致不同类型的攻击,不仅会导致传统攻击的防御难度,也会出现新的创新攻击方法,导致现有防御方法失效。
林教授团队针对上述三个方面的挑战开展了深入的研究,分别提出了提出了基于因果增强扩散模型的联邦学习单模态数据后门净化防御方案、基于因果解耦与反事实推理的联邦学习多模态后门攻击与防御方案、基于模型异构的可信自适应半异步联邦学习攻击与防御方案,这些成果都在重要学术刊物和国际学术会议中发表。最后林教授也分享了他们团队的研究展望,主要包括:根据联邦学习设备之间的隐私差异性,设计更加细粒度的隐私保护机制;引入联邦遗忘技术,消除恶意更新对全局模型的影响;引入迁移学习,克服联邦学习参与方训练量和特征不足的问题。
讲座后,杨明教授对学术讲座进行总结,参会教师和学生们向林晖教授提出了许多感兴趣的问题,林教授一一进行了解答。最后,杨明教授和林辉教授就研究团队之间建立长期的合作达成共识,约定定期进行学术交流、人员培训和项目联合申报等进行深度合作。相信通过这样的学术交流和技术合作,信息与智能工程学院的学科建设和团队科学研究水平将更进一步发展。