AI安全“上车”元宇宙 百度亮相BCS2022北京网络安全大会

2022-07-21 17:52:252768人阅读



7月21日,2022年北京网络安全大会(BCS2022)技术峰会正式揭幕。百度副总裁马杰在会上发表主题演讲,聚焦元宇宙与AI安全创新的结合,关注智能时代AI安全生态的打造,分享了百度在AI安全领域的最新研究实践成果。


图片

百度副总裁马杰在2022年北京网络安全大会(BCS2022)技术峰会发表主题演讲


伴随国内外网络安全形势的变化,2022年已成为我国网络安全产业承上启下、加速成长的一年。在这之中,AI安全的重要性不断提升,不仅成为业内高度关注的核心议题,也成为在我国网络安全能力体系建设过程中不可或缺的关键一环。


2020年,百度率先提出了Security、Safety、Privacy,AI安全研究三大维度。分别指向了强对抗环境下的安全威胁,非对抗条件下自然环境所产生的真实威胁,以及数据安全及隐私保护。经过近三年的持续创新与实践,这一理念也在得到不断地完善和迭代,其最新的落地尝试便是AI安全与元宇宙的结合。


在演讲中,马杰介绍了百度安全的自动驾驶安全研究项目“铁马冰河”。这是一个聚焦于沉浸式高拟真场景、富含AI对抗的元宇宙化安全测试平台,借助大量高拟真的测试场景,通过“整车在环”、“硬件在环”、“软件在环”三项评测方案,其可在各类自定义的测试环境中,实现自动驾驶视觉鲁棒性、Al安全对抗性等指标的安全评测。从关键防护环节入手,验证自动驾驶系统的安全防护体系。


百度安全铁马冰河“整车在环”测试演示DEMO


众多周知,实现自动驾驶的成熟应用需要进行海量的实地路测,这不仅需要庞大的城市公共路网支持,也需要大量的测试时间。在这一背景下,“铁马冰河”构建了一个较为完整的测试验证体系,一个能够映射现实世界、现实路况的安全测试平台。


从某种角度来看,Security所代表的强对抗安全风险通常意味着已被发现的问题,而Safety则更聚焦于来自真实世界中未知的挑战。对于后者,Fuzzing模糊测试在近年来逐渐成为业内发力研究的共识。而实际上,“铁马冰河”的背后正是Fuzzing理念在AI安全领域的实际应用——其将所有潜在的干扰因素视为参数,通过反复测试,“广泛覆盖,重点应对”。从而以更高效的方式发现问题,推动安全系统的优化。


目前,“铁马冰河”已经被投入到自动驾驶模型安全评测、智能座舱交互设计等应用场景的实践当中。而在6月中旬,其也登陆了百度首个国产元宇宙产品“希壤”。由此,我们得以化身NPC,以更为真实的方式加入到仿真场景与测试车辆产生交互,从而更好地捕捉和反馈自动驾驶在遇到各种人为突发情况时所需要面对的安全隐患。在保证安全测试效果的同时,结合物理与虚拟,创造更接近于真实路测效果的随机状况,降低测试的综合成本。


当前,我们正处于一个新与旧相互叠加的时代。一方面,传统安全领域的顽疾在爆发;另一方面,AI本身的安全性挑战也超乎于我们对于安全边界与框架的传统认知范畴。在积极引入、融合元宇宙等新技术、新应用的同时,加强网络安全、尤其是AI安全的行业协作始终是智能时代安全生态构建的关键组成。


秉承“有AI,更安全”的理念,百度安全也将在未来与产学研各界合作伙伴保持合作,共同迎接AI时代的新挑战,构筑AI安全的新防线,探索AI未来的新可能。

0
现金券
0
兑换券
立即领取
领取成功