百度安全韩祖利:关系、技术、数据是AI安全生态共建的三大支点

2018-08-30 10:47:288057人阅读

8月27日,以“安全强驱动,数字新生态”为主题的第四届互联网安全领袖峰会(Cyber Security Summit2018,简称CSS2018)在京召开。会议汇聚了全球最具影响力的安全专家,共话网络安全发展新格局。百度安全事业部产品总经理韩祖利受邀出席峰会,发表了“AI时代生态安全挑战与契机”的主题演讲。

640.jpg


百度安全产品总经理 韩祖利


韩祖利认为,首先,AI时代面临的安全挑战比传统安全时代更复杂,纵贯传感器、软件、数据、系统、网络等多个层面,其次,数据投毒、生物识别欺骗,AI自身的安全性变得前所未有的重要;第三,AI时代的安全生态是共研生态,以往企业碎片化的单兵作战、安全统一标准的缺失,将消耗公众对整个行业的信心。

基于以上三大趋势,韩祖利给出几点建议,首先,AI时代所面临的的安全挑战,需要企业以生态联盟的方式共同应对;其次,关系、技术、数据是AI安全生态共建的三大支点;第三,以BAT为代表的大公司应率先做出正向外部性的研究和投入,使得整个生态获得更好的安全防护。

“安全不是一家或者一个公司就可以做好的。百度安全希望能和全行业一起建立一个共赢共生的安全生态。安全生态的建设,离不开关系、技术和数据三大关键点。”韩祖利说。


安全生态面临着挑战和契机


韩祖利开篇援引2016年AlphaGo战胜李世石的例子,分析人工智能重新回归大众视野并真正爆发几点原因:首先是算法的突破,有了大规模的、无监督、多层次的深度神经网络,从而对于非结构性的数据处理诸如图像、声音识别有了一个非常大的突破;其次是数据的激增,整个互联网、物联网时代积累了海量的数据,社会信息化的普及,移动支付的发展,数据维度的扩展;第三,政策扶持。

“人工智能正在不断渗透到我们整个社会中来,智能制造、智能零售、智慧园区、医疗健康、智慧教育、智慧城市方方面面。“韩祖利特别提起了物联网领域,他认为AI驱动物联网踏入了一个崭新的时代,“原来的物联网只是一个硬件连上了网络,当下则是将智慧学习嵌入到智能设备里去,物联网有了感知,它自身会对我们的生活产生理解,它也可以自己去做出一些判断。。”

然而,机遇与挑战并存,面对飞速发展的人工智能尚不能盲目乐观。韩祖利表示,人工智能所面临的安全挑战,纵贯传感器、软件、数据、系统、网络多个层面。当下,尽管人工智能在某些方面精准度可超过人类,显著提升规则化安全工作的效率,但在复杂情况下还远远达不到,且极易受干扰。“我们在图片里恶意的插入一些信息,所谓的数据投毒来欺骗机器人,因为机器始终是在尝试使用人的思维去理解这个世界,但是机器的传感器毕竟才发展了不到百年,我们人类已经进化了上亿年。” 

此外,据韩祖利介绍,随着深度学习的发展,现在越来越多的智能设备开始应用生物识别技术,但这一技术也存在风险,因为生物特征极易被采集、复制、且复制成本低廉,此外人工智能行业尚缺乏统一标准,生物认证单靠一个因子并非完全可靠。据悉,百度安全正加大对多因子认证行业核心技术与解决方案的研发投入,以弥补单一因子的局限性和安全风险。

近期信通院泰尔实验室联合百度安全面向市面上的主流智能电视进行了安全漏洞测评,结果无一幸免。“AI时代假如没有安全,家里各种智能家居都会向你发出勒索请求。AI确确实实给我们带来了好处,而它带来的风险也是非常剧烈的,并且就在我们身边。”韩祖利说。

 

 共建AI生态,三大支点缺一不可


“AI时代我们面临的风险并没有更小,反而面积更广,更深入,并且威胁更大。人工智能时代要共研安全生态,这不是一个厂家或者一个品牌能做到的,甚至不是只是安全产业能做到的事情。”韩祖利说。

韩祖利认为,关系、技术、数据是AI安全生态共建的三大支点。

第一个支点,关系,就是建立信任,包括人与人之间的合作,公司与公司之间的合作,跨产业间的合作。“合作后我们才知道大家都在做什么,为了什么而做什么。比如我们最近在和很多电视产业合作后,很多厂家才开始逐渐意识到安全问题,为了用户,为了产品,为了保护消费者,他们还需要做这些安全方面的东西。”

第二个支点,技术,防止碎片化。“我们此前经常看到,因为交流较少,导致这家公司做了某个产品,另外一家公司又做了另外一套系统,系统相互之间是完全间隔,产业用户就会非常痛苦,因为只能选择一个体系,整个碎片化就产生了。”韩祖利提出,安全生态需要共同建立一些公开、透明的行业标准,去规范产业的结构,尽量去开源。过程中,以BAT为代表的大公司应率先做出正向外部性的研究和投入。据其透露,百度安全即将面向生态合作伙伴开源大七大安全工具产品,协同整个产业链,为整个生态加固。

第三支点,数据。“安全的核心就是持续的对抗,对抗最主要的核心就是情报,情报的本质就是数据。“韩祖利提出,希望在一定的安全架构基础上,实现数据的“可用不可见“,从而实现生态内部的数据共享。“甚至联合计算也可以做到非常容易,同时又能有效防止隐私泄露与滥用。

韩祖利表达了对智能时代的信心,”我不是特别赞同AI对人类有太大威胁,因为过去我们经历过那么多生产力变革的时代,我们都把控住了它,我作为一个安全从业者对于AI充满信心。”最后,韩祖利呼吁整个行业可以站在一起,共建生态,共同打造AI时代的安全。



0
现金券
0
兑换券
立即领取
领取成功