2022北京网络安全大会AI安全论坛举办 协作共筑AI安全新防线

2022-07-30 20:11:5712442人阅读

人工智能作为新一轮科技革命的产业和变革的重要驱动力量,成为数字化的主要催化剂,随着人工智能能力的发展和深化,安全和隐私保护问题也越来越多。在新的技术架构和业务环境中解决这些问题已成为人工智能发展的最大瓶颈之一。人工智能在数字时代作为最具颠覆性和战略性的核心关键技术,与网络安全相辅相成。2022年7月30日北京网络安全大会(BCS 2022)AI安全论坛在京盛大展开,论坛由奇安信和百度安全联合主办、OASES智能终端安全生态联盟协办,邀请了业界顶级专家与世界一流高校的顶尖学者,一同带来AI安全方面的最新技术进展和落地实践。

640.png

- 百度副总裁 马杰 -

本次论坛由百度副总裁马杰进行开场致辞,伴随国内外网络安全形势的变化,AI安全的重要性不断提升,不仅成为业内高度关注的核心议题,也成为在我国网络安全能力体系建设过程中不可或缺的关键一环。马杰表示,在2020年百度率先提出了Security、Safety、Privacy,AI安全研究三大维度,分别指向了强对抗环境下的安全威胁,非对抗条件下自然环境所产生的真实威胁,与数据安全及隐私保护。经过近三年的持续创新与实践,这一理念也在得到不断地完善和迭代,百度安全的自动驾驶安全研究项目“铁马冰河”是一个聚焦于沉浸式高拟真场景、富含AI对抗的安全测试平台,凭借“整车在环”、“硬件在环”、“软件在环”三项评测方案中的仿真测试场景,实现自动驾驶视觉鲁棒性、AI安全对抗性等指标的安全评测。以及在这些评测中结合元宇宙,以更为真实的方式结合物理与虚拟,在高度仿真场景与测试车辆产生交互的过程中,创造更接近于真实路测效果的随机状况,降低测试的综合成本。秉承“有AI,更安全”的理念,百度安全也将在未来与产学研各界合作伙伴保持合作,共同迎接AI时代的新挑战,构筑AI安全的新防线,探索AI未来的新可能。


640.png

- 复旦大学计算机科学技术学院副院长 杨珉 -

复旦大学计算机科学技术学院副院长杨珉在论坛上,以“开放网络中AI系统的新型安全风险”为题。首先,实例讲解了人工智能系统中的联邦学习如何避免梯度投毒的方法,及神经网络模型中残留信息导致的梯度泄密风险;其次,展示了复旦大学在自动驾驶系统安全研究中的成果,如何解决虚拟场景构建、事故场景挖掘和事故归因技术等核心技术难点,并定位到故障代码后进行修复;最后,在机器学习即服务安全研究上,发现模型量化过程当中存在后门的威胁,在众多主流的开源模型仓库中发现相应的问题。杨珉教授通过上述AI系统的三个应用场景,带来了学术界的前沿研究成果,指出AI模型在开放网络环境中的规模化应用中,面临着着诸多重大、新型安全威胁,提示我们对于AI安全的研究应该着眼于AI系统这一维度。

640.png

- 百度安全部数据安全业务副总经理 韩祖利 -

而数据作为新型生产要素,是企业在数字化、网络化及智能化转型中至关重要的基础,百度安全部数据安全业务副总经理韩祖利就“隐私计算构筑数据要素市场安全体系”,讲述在数据的采集、处理、流通及计算等各个生命周期中,如何以安全高效为前提,基于隐私计算去实现数据合规赋能。其中,百度点石隐私计算平台依托安全多方计算、联邦学习、机密计算、安全数字沙箱等一系列隐私计算技术积累,打造了覆盖数据全生命周期的数据安全与隐私保护解决方案,在AI与隐私计算的加持下助力数据要素市场安全有序的发展。

640.png

- 浙江大学教授 徐文渊 -

随着物联网大规模应用于各类基础设施、智能制造等领域,其安全性变得越来越重要,浙江大学教授徐文渊以“当呼吸化为空气---物联网带外脆弱性”为题,讲述物联网在快速发展中不断出现新脆弱性,特别是“物理-数字”跨域交互过程中“信号-信息”映射失配带来的缺陷难以被系统地分析与挖掘,一旦触发可造成严重后果,此类缺陷统称为“带外脆弱性”,因此当前系统安全研究范式需要从“带内”向“带内带外兼顾”转变。

640.png

- 清华大学副教授 张超 - 

二进制代码相似性分析技术对于软件供应链安全分析、知识产权保护、逆向工程等应用至关重要。清华大学副教授张超以“二进制代码相似性智能检测”为题,介绍了AI赋能安全的一个重要应用,分享了早期基于卷积神经网络直接提取二进制代码特征的aDiff方案与最新的基于自然语言处理预训练模型并融合二进制代码跳转关系知识的jTrans方案,展示了该技术用于相似漏洞搜索、恶意代码家族识别、补丁分析等二进制分析应用场景的优势,探讨了二进制代码相似性检测技术未来的提升方向。

640.png

- 百度主任研发架构师 包沉浮 -

人脸识别身份认证作为AI技术的重要应用之一,近年来被广泛应用于公共安全、金融支付、交通出行等领域。百度主任研发架构师包沉浮以“人脸实名认证的安全风险及应对”议题,指出人脸认证应用在假体攻击、设备劫持攻击等层出不穷的新攻击手段下面临的安全风险。随后他详细介绍了百度针对人脸认证的全链路、端到端的安全防护体系思路及方案。百度以获得国际权威比赛冠军的人脸活体及伪造检测算法为基础,并结合黑产多年的对抗经验自主研发了新一代人脸安全SDK。该SDK对数据采集和传输进行了多重保护和加密处理,同时结合设备指纹等技术识别运行环境和操作风险,确保人脸数据采集的真实有效,能够提高APP/H5/小程序等场景下人脸实名认证的可靠性、便捷性。

640.png

- 奇安信人工智能研究院高级算法工程师 刘昱均 -

保障AI模型安全及数据内容可信是人工智能蓬勃发展的重要前提,奇安信人工智能研究院高级算法工程师刘昱均,以“洛基平台——人工智能安全检测算法研究与实践“为题,讲述了洛基平台部署了对抗攻击与防御、深度伪造与鉴别、隐写信息加解密三大模块,以此针对目前人工智能领域中的安全问题,从数据可信和模型安全两个角度,全面建设AI安全能力。


本届AI安全论坛,以“智能改变生活,安全构筑基石”为主题,从AI系统安全、隐私计算、AIoT安全、漏洞分析、人脸识别安全及AI模型安全等方方面面,讲述了“AI的安全”与“安全的AI”在新时代的安全生态系统面临全新的机遇与挑战,而百度安全基于在安全领域22年安全实践的总结与提炼,以AI为核心,以大数据为基础,对内为百度公司各个业务保驾护航,对外向全行业输出能力与解决方案,让全行业享受更安全的AI所来带来的变革。

0
现金券
0
兑换券
立即领取
领取成功