人工智能安全团队专注于机器学习、人工智能算法的安全性保护、健壮性与隐私保护等方向的研究。本团队在大力发展人工智能的同时，高度重视可能带来的安全风险挑战，加强前瞻预防与约束引导，最大限度降低风险，确保人工智能安全、可靠、可控发展。本团队力促建立人工智能基础数据与安全检测平台。建设面向人工智能的公共数据资源库、标准测试数据集、云服务平台，建立人工智能算法与平台安全性测试模型及评估模型，研发人工智能算法与平台安全性测评工具集。统筹利用大数据基础设施，强化数据安全与隐私保护，为人工智能研发和广泛应用提供安全的技术支撑。

团队目前拥有教授2人，副教授及讲师4人，博士生、硕士生40余人。