学术动态

学术动态

当前位置: 网站首页-> 学术动态-> 正文

人工智能与大数据安全研究所9月13日研讨会

发布时间:2022-09-14

时间:2022年9月13日 下午14:00-17:00

地点:广州大学 (大学城校区)理科南304


报告1:

报告人: 徐晓峰(硕士生)

报告题目:Cross-domain knowledge modeling network for task-oriented dialog

 

在本次报告中,徐晓峰同学首先介绍了任务型对话的对话目标,知识库引用及任务型对话的相关技术,即文本生成和知识检索。随后,通过分析任务型对话的具体数据,总结了任务型对话的基本问题,一是知识库中的实体词对对话语句建模的影响问题,二是知识库的大量数据导致模型对知识库和对话历史建模困难的问题。并通过阐述指针网络(Point networks)和GLMP模型(Global-to-local memory pointer networks for task-oriented dialogue)两个任务型对话领域有代表性的工作,介绍了任务型对话模型的基本构建框架。最后徐晓峰同学通过分析任务型对话的跨领域对话数据,提出了在跨领域对话上对话领域模糊无法准确定位到知识库,导致实体词提取不准确的问题,并详细阐述了基于这个问题所构建的CDKM模型(Cross-domain knowledge modeling network for task-oriented network)及其构建思想。汇报结束后范立生教授、高崇志教授与徐晓峰同学就实验优化问题进行了深度的交流并提出了重要的建议。

报告2:

报告人: 陈可轩(硕士生)

报告题目:机器学习中的成员推理攻击研究进展

 

成员推理攻击(Membership Inference Attack)是机器学习隐私保护问题中的研究热点。陈可轩同学首先描述了成员推理攻击问题存在的理论意义和现实意义:比如,医院训练模型对病人进行诊断,假如模型容易被攻击者进行成员推理攻击,那么某患者就容易被发现患病且在该医院接受治疗,遭到隐私泄露。接着,说明了成员推理攻击的直观原因及其背后的深层原因,展示了训练集数据和非训练集数据在模型输出上的差异。随后,通过影子模型和差分比较这两种经典的成员推理攻击方法,详细阐释了成员推理攻击的具体过程及其实现细节。结合知识蒸馏、数据增强、生成模型等方法,陈可轩同学讲解了几种现有的成员推理攻击防御方法。在汇报过程中,高崇志教授对相关内容进行了一些补充讲解,同学们颇受启发。方美娥教授提出了专业的点评,并提出了具体的改进意见。