为解决这些老大难问题 看看百度用AI安全加持都做了啥

2020-09-17 14:22:552322人阅读

长期以来,用AI解决社会问题一直是百度发力的重点。

在刚刚结束的2020百度世界大会百度大脑分论坛上,AI与安全之间所碰撞出的火花引发了各方舆论广泛的关注。其中被行业热议的焦点之一,便是由Security、Safety和Privacy三大全新维度出发,探索AI安全技术在应对现实问题、解决未来挑战方面的实际应用。

所谓Security,其可被定义为在强对抗环境下的安全威胁。作为全球最大的中文搜索引擎,百度每天会响应来自100余个国家和地区的数十亿次搜索请求,是网民获取中文信息的最主要入口。在过去的一年中,百度安全累计拦截全网恶意网页总量超过777.9亿次,阻断黑灰产触达用户,保障网民切身权益——在这之中,百度领先的AI安全能力便发挥了至关重要的作用。

一方面,基于百度安全在威胁情报数据的海量积累和最佳实践,全面感知、实时决策的“网址安全智能模型”可实现对千亿级的网页、文字、图片、视频和代码的毫秒级安全监测,有效应对恶意网站在传统人工维护模式下通过不断变换规则逃避监测的难题。例如针对网络常见的“黑产词”(如“菠菜”即是对“博彩”这一违规关键词“扭曲”和利用),上述AI安全技术即可结合语义距离等因素,对近百万关联词汇进行精准检测,协助安全人员更好地了解黑产规律,助力黑产打击。

另一方面,以HughGraph为代表的大规模图数据库也正在内容安全生态治理中发挥重要作用。依托在Web端、应用层、网络层等多个维度研究和实践,百度安全对网页访问、网站流量、代码意图等异常行为特征均进行了深度学习模型训练。而借助AI的力量,安全人员可以更便捷地从看似杂乱无章的关系中捕捉隐含关联性,高效精准感知并预警新型恶意网址类型,提升拦截策略。

当然,在更有效地应对传统安全问题之外,百度的AI安全能力也在解决新近的安全挑战。例如在近两年引发巨大关注的“AI换脸”,尽管大多数人以娱乐为目的,但当之前“保真度”很高的视频、直播变得不再可靠,伪造变得轻而易举时,其也带来了一系列潜在的安全隐患、法律风险和社会问题。针对这一问题,百度安全开源了业内首个AI换脸检测工具。借助面部特征、面部边缘等检测方式,实现对深度伪造、人脸合成的高效“打假”,识别准确率最高可达到99%,助力监管部门从源头阻断滥用AI换脸技术实施电信网络诈骗等违法行为。

图片4.png

百度安全AI换脸检测工具对于“假脸”的检测

此外,针对AI模型鲁棒性、AI模型保护等问题,百度安全推出了模型鲁棒性体系化评估框架和对抗样本工具箱AdvBox。前者通过对光照、空间变换、模糊、噪声和天气变化等多项可能出现威胁的安全属性的定义,针对不同的模型任务场景设定了一系列评估标准,可帮助研究人员更好地量化潜在安全威胁的严重性及模型鲁棒性,而后者则为AI模型安全加固的鲁棒性检测提供了高效的解决方案。

事实上,上述AI安全技术的应用不仅为Security层面的传统安全问题与全新安全挑战提供了更好的防范工具,也为Safety层面、即与你我人身安全休戚相关的安全隐患和真实威胁的应对提供了有效支撑。而面对来自Privacy、数据安全与隐私保护方面的课题,百度也推出了覆盖数据采集、处理、流通和计算的全数据生命周期的AI安全解决方案。依托隐私合规检测、差分隐私、AI自动脱敏、联邦计算、可信计算等安全技术,为百亿级大规模数据的安全联合计算创造可能,为金融、医疗、政务等领域的联合分析、联合风控、联合营销提供数据安全保障,进一步释放数据价值,扩大AI时代大规模数据协作的信任边界。

显而易见,随着经济智能化的不断深入,AI正在带来更强大的发展动能。而不论是保障AI自身的安全还是借助AI去提升传统安全问题的解决能力,AI安全都已成为AI体系构建中不可或缺的重要一环。

秉承“有AI,更安全”的理念,百度在AI安全领域的探索并不止于服务于自身业务,也在于为整个AI生态的健康、快速发展提供支持。近两年来,包括AdvBox对抗样本工具箱和HugeGraph大规模图数据库在内,百度先后开源了多项核心AI安全技术能力打造了BASS下一代人工智能安全技术栈,帮助行业合作伙伴全面解决云、管、端及大数据和算法层面的一系列安全风险问题。而在AI安全赋能黑产打击方面,百度也在监控、检测、预警、阻断等各个阶段,携手监管部门与产业界,积极助力安全生态多方治理格局的建设,协助营造清朗良好的网络生态。

网络安全是场持久战,以Security、Safety和Privacy为切入点,百度也将进一步发挥自身在AI安全方面的优势,为行业亦为社会,守护更为安全的AI时代,加速产业智能化的到来。

0
现金券
0
兑换券
立即领取
领取成功