报告题目：隐语联邦学习框架及联邦大模型安全探索
主讲人： 黄炜 蚂蚁集团算法专家
报告时间：2024年4月27日（星期六）14:45-15:15
报告地点：翔安校区bwin必赢1号楼（正信楼）108会议室
报告摘要：在大模型时代，模型的参数(包括微调的参数)中蕴含着数据/知识的价值，一旦泄漏会造成严重的安全问题。联邦学习将多个数据方联合起来训练一个联邦大模型，但是微调的参数被服务端以及各个参与方各自持有，即泄漏了微调的参数。那么对于每个客户端来说其数据价值泄漏给了服务端以及其余客户端。对于模型方来说其模型参数也泄漏给了各个客户端。提出新的场景(参数可控的分布式训练)：为了解决联邦大模型存在的问题，提出了新的场景，即参数可控的分布式训练，即在模型微调完后任何参与方都无法拿到微调的参数。解决方案：通过模型拆分的方法将可微调参数放入TEE，冻结参数放在明文环境。
报告人简介： 黄炜，蚂蚁集团算法专家。长期工作于模型隐私保护方向，研究大模型隐私安全及其在实际场景中的应用，具有多年的国内外技术分享经验。在 IJCAI，ICASSP，ICCI 等会议发表多篇论文，围绕隐私计算、机器学习等相关领域提交多份国际标准提案，为推动互联网安全体系的建设。
邀请人：计算机科学与技术系 罗晔副教授