- 复旦大学计算机科学技术学院副院长 杨珉 -

复旦大学计算机科学技术学院副院长杨珉在论坛上，以“开放网络中AI系统的新型安全风险”为题。首先，实例讲解了人工智能系统中的联邦学习如何避免梯度投毒的方法，及神经网络模型中残留信息导致的梯度泄密风险；其次，展示了复旦大学在自动驾驶系统安全研究中的成果，如何解决虚拟场景构建、事故场景挖掘和事故归因技术等核心技术难点，并定位到故障代码后进行修复；最后，在机器学习即服务安全研究上，发现模型量化过程当中存在后门的威胁，在众多主流的开源模型仓库中发现相应的问题。杨珉教授通过上述AI系统的三个应用场景，带来了学术界的前沿研究成果，指出AI模型在开放网络环境中的规模化应用中，面临着着诸多重大、新型安全威胁，提示我们对于AI安全的研究应该着眼于AI系统这一维度。

而数据作为新型生产要素，是企业在数字化、网络化及智能化转型中至关重要的基础，百度安全部数据安全业务副总经理韩祖利就“隐私计算构筑数据要素市场安全体系”，讲述在数据的采集、处理、流通及计算等各个生命周期中，如何以安全高效为前提，基于隐私计算去实现数据合规赋能。其中，百度点石隐私计算平台依托安全多方计算、联邦学习、机密计算、安全数字沙箱等一系列隐私计算技术积累，打造了覆盖数据全生命周期的数据安全与隐私保护解决方案，在AI与隐私计算的加持下助力数据要素市场安全有序的发展。

- 浙江大学教授 徐文渊 -

随着物联网大规模应用于各类基础设施、智能制造等领域，其安全性变得越来越重要，浙江大学教授徐文渊以“当呼吸化为空气---物联网带外脆弱性”为题，讲述物联网在快速发展中不断出现新脆弱性，特别是“物理-数字”跨域交互过程中“信号-信息”映射失配带来的缺陷难以被系统地分析与挖掘，一旦触发可造成严重后果，此类缺陷统称为“带外脆弱性”，因此当前系统安全研究范式需要从“带内”向“带内带外兼顾”转变。

- 清华大学副教授 张超 - 

二进制代码相似性分析技术对于软件供应链安全分析、知识产权保护、逆向工程等应用至关重要。清华大学副教授张超以“二进制代码相似性智能检测”为题，介绍了AI赋能安全的一个重要应用，分享了早期基于卷积神经网络直接提取二进制代码特征的aDiff方案与最新的基于自然语言处理预训练模型并融合二进制代码跳转关系知识的jTrans方案，展示了该技术用于相似漏洞搜索、恶意代码家族识别、补丁分析等二进制分析应用场景的优势，探讨了二进制代码相似性检测技术未来的提升方向。

- 百度主任研发架构师 包沉浮 -

人脸识别身份认证作为AI技术的重要应用之一，近年来被广泛应用于公共安全、金融支付、交通出行等领域。百度主任研发架构师包沉浮以“人脸实名认证的安全风险及应对”议题，指出人脸认证应用在假体攻击、设备劫持攻击等层出不穷的新攻击手段下面临的安全风险。随后他详细介绍了百度针对人脸认证的全链路、端到端的安全防护体系思路及方案。百度以获得国际权威比赛冠军的人脸活体及伪造检测算法为基础，并结合黑产多年的对抗经验自主研发了新一代人脸安全SDK。该SDK对数据采集和传输进行了多重保护和加密处理，同时结合设备指纹等技术识别运行环境和操作风险，确保人脸数据采集的真实有效，能够提高APP/H5/小程序等场景下人脸实名认证的可靠性、便捷性。

- 奇安信人工智能研究院高级算法工程师 刘昱均 -

保障AI模型安全及数据内容可信是人工智能蓬勃发展的重要前提，奇安信人工智能研究院高级算法工程师刘昱均，以“洛基平台——人工智能安全检测算法研究与实践“为题，讲述了洛基平台部署了对抗攻击与防御、深度伪造与鉴别、隐写信息加解密三大模块，以此针对目前人工智能领域中的安全问题，从数据可信和模型安全两个角度，全面建设AI安全能力。