产品人气榜

聚焦天府杯AI安全论坛:破局AI双刃剑严守风险管理防线是关键

2019-11-18 17:51:043567人阅读

与大部分新技术的快速崛起类似,AI在加速推动社会与经济全方位变革的同时,其随之而来的安全风险同样不容忽视。

 

作为天府杯“2019国际网络安全大赛暨2019天府国际网络安全高峰论坛”的重要组成,由百度安全承办,复旦大学、西安四叶草协办的AI安全分论坛于11月17日在成都天府新区西博城举行,多位来自国内学术界、企业界的顶尖专家齐聚一堂,与百度安全一道共同探讨了各自在AI安全领域的行业观察与研究成果。

 

会上,百度安全产品总经理韩祖利为现场嘉宾带来了名为“AI征途的善与恶——通往美好生活的挑战”的主题演讲。分析了AI所带来的全新机遇与安全挑战,并分享了百度在利用AI赋能安全和打造更安全AI方面的努力和进展。

 

9.png

百度安全产品总经理韩祖利

 

自上世纪50年代“人工智能”一词首次被提出,到如今以神经网络为代表的深度学习技术的高速发展,算法的迭代、算力的提升与数据的扩展正让AI逐步驶入快车道,为企业管理与行业变革提供了巨大的技术驱动力。但是,AI的双刃剑也有它的反面。

 

“准确性与鲁棒性权衡、训练数据集对准确性影响、实时性较高的场景困境,让当下不少视觉识别系统很容易被欺骗;而生物特征易被采集、易被复制及不易更换的特性,也让人脸识别、指纹识别甚至虹膜识别技术不断被曝出被破解的事例。”

 

在韩祖利看来,目前AI技术及应用已由本世纪初开启的稳步发展期切换进入了更高速的蓬勃发展期。一方面,其信息结构的复杂,已突破了人类理解的上限;另一方面,随着数据量的指数级上涨,数据使用场景正越来越复杂,加工环节也大幅增加。这一系列变化放大了AI的安全隐患——其中,既包括在采集、传输、存储、处理、交换、销毁等环节存在安全防御不完善的问题,也包括在正常生产生活中可能导致的隐私泄漏和日渐增多的“数据投毒”。

 

由此,相较于传统的安全问题,AI安全需要构建更长的战线以应对传感器欺骗、软件缺陷、数据风险、系统风险与网络风险的挑战;覆盖应用于众多行业场景的算法安全性、可解释性与决策困境,个人敏感信息的识别和处置,算法歧视与滥用等诸多问题。

 

10.png

AI技术的行业渗透率与市场规模

 

秉承“有AI,更安全”的使命,百度安全始终致力于在全面覆盖百度各种复杂业务场景的同时,让更安全的AI驱动产业互联网变革。而在借力AI辅助违规内容的高效检测和对工厂场馆安防场景的智能赋能等具体落地应用之外,韩祖利在此次演讲中重点介绍了百度在AI安全领域的前沿研究与多元探索。

 

在完整的AIoT解决方案的技术层面,百度安全推出并全面开源了BASS下一代人工智能安全技术栈。将KARMA系统自适应热修复、MesaLink TLS下一代安全通信库、MesaLock Linux内存安全操作系统MesaTEE下一代可信安全计算服务、OpenRASP下一代云端安全防护系统、AdvBox对抗样本工具包和HugeGraph大规模图数据库七大技术汇成AI安全“七种武器”,全面解决云管端以及大数据和算法层面的一系列安全风险问题。

 

而在备受关注的隐私保护方面,基于数据智能脱敏系统,百度安全正着力推动大数据流动安全多方计算平台ShareOne的构建。借由图形化界面、算法可编程支持及自有算力资源,为安全数据交换、企业联合风控、可信数据共享和交易服务等场景提供有效地安全保障,实现数据价值的进一步释放。

 

事实上,尽管人工智能已经取得了非凡的进展,但其在目前阶段及不短的未来中仍然将主要扮演工具的角色。“充分的风险管理已经不是抑制创新的因素,而是成功使用AI技术的关键。”韩祖利这样总结他的演讲,而百度安全也将以技术赋能、标准驱动、生态共建为支点,与业内合作伙伴们一道,应对挑战,共建生态,共同“通往美好生活”。

 

 


0
现金券
0
兑换券
立即领取
领取成功