聚焦HITB GSEC 2019|AI换脸有隐患?解铃还须系铃人

2019-09-03 22:03:0412763人阅读

技术本身是中立的,如何在应用边界、内容审核等制度法规的有效管控下,促进AI换脸技术发挥积极作用,而非演变成一场“猫捉老鼠的游戏”。


Deepfakes“换脸术”的安全性时下俨然成为舆论的焦点,不仅仅在于其早已超出了娱乐的范畴、被技术滥用对知名人士造成版权及隐私的困扰,同时也因AI换脸黑产的不断蔓延,引发了企业及监管部门的关注。2019年6月13日,美国众议院召开了有史以来第一场关于 Deepfakes及其他AI合成技术的听证会,探讨此类“移花接木”的技术手段在政治领域、公众领域、新闻领域及社会信任度造成的潜在风险及应对之策。

1.png
图1 | Facebook首席执行官扎克伯克视频遭遇Deepfakes篡改,视频中他对Facebook的用户数据隐私政策提出质疑
 
距离Deepfakes等AI合成技术的应用边界、平台内容审核相关制度法规的出台尚有待时日,对视频内容真实性的技术检测及工具共享则迫在眉睫。当下越来越多的研究机构正在努力寻找精准鉴别Deepfakes假视频的方法,在于8月26日-30日于新加坡召开的HITB信息安全会议上,百度安全研究员WANG YANG、DOU GOODMAN、JAY XIONG 带来的最新研究成果显示,基于深度学习卷积神经网络(CNN)可以有效针对AI换脸视频进行“打假”。

HITB(HACK IN THEBOX)是欧洲最具影响力的信息安全峰会,每年在荷兰阿姆斯特丹及新加坡举办,迄今已有16年历史,是一年一度全世界顶尖信息安全研究员及大咖共同分享前沿课题及攻防技术的盛会。在本届HITB上,百度安全的议题“连中三元”,成为本届议题入选最多的国内企业,刷新历史纪录,再一次证明百度安全在AI安全攻防领域的领先地位。

卷积神经网络(CNN)是深度学习的代表算法之一,目前已广泛应用于图像识别领域。研究中,百度安全研究员提出了基于CNN的两种检测方法。在第一种方法中,利用一个简单的CNN架构和有限数量的卷积层构建了一个性能强大的Deepfakes探测器:在定位人脸核心区域的基础上,进行融合边缘信息的外延,通过对图像低层次特征(low-level feature,轮廓、灰度、纹理等)的提取与分析,令AI变脸检测得到有效的解决。被篡改的图像通常在边缘位置存在一些细微的异常特征,例如边缘生硬、抖动、扭曲、颜色不均等,这正是此类检测方式的核心所在。

2.png
视频 |基于简单的CNN,AI换脸识别准确率达99%

与第一种方法的思路不同,第二种方法则利用FaceNet作为人脸特征的向量提取器,继而利用SVM二分类器(binary classification)进行机器学习。FaceNet是目前用于人脸识别最先进的神经卷积网络之一,通过将提取的人脸特征向量映射到欧几里德空间,继而实现人脸验证、识别、分类等。值得指出的是,由于FaceNet可以捕捉到人脸的高层次特征(high-level feature),因此相较第一种方法中需引入图像边缘信息,第二种方法检测的仅仅聚焦人脸核心区域。

4.png
 图2 |FaceNet架构

3.png
图3 | 基于FaceNet的“假脸”视频检测过程
 
上述两类检测方式可有效对抗的 Deepfakes 类型涵盖多样,无论是传统的AI换脸(Deepfakes),还是兼具两张人脸特征、但置信度无法达到换脸程度的人脸融合(Face Merge),均有可观的表现。在模型训练过程,百度安全研究员特别将在既往检测方式中表现不佳的经缩放、过曝、剪切、翻转后的图像纳入研究范畴,并进行技术攻克。结果演示,目前两种检测方式分辨真假的准确率分别高达99%、94%。
 
为进一步验证AI换脸检测模型的鲁棒性,百度安全研究员分别针对当下AI换脸在网络传播过程中常用的图像压缩(Compression)、缩放(Zoom and Resizing)两类情况,进行两类检测方式的准确度分析。如图5所示,左右两图纵轴均表示检测准确率,左图横轴表示10个不同图像压缩等级的数据集,右图横轴则表示10个不同缩放程度的数据集(将原始图像按比例缩小到指定大小,再将其放大到原始的高度和宽度,收缩及放大均采用双线性插值法)。实验结果显示,简易CNN相较FaceNet的检测方式,对于图像压缩曲线更加敏感(如图4左)。鉴于图像压缩主要减少的是图像中的高频特征(图像中亮度或者灰度值变化剧烈的部分,可视为图像边缘部分),我们认为,简易CNN相较FaceNet的检测方式捕获了更多图像的高频特征。另一方面,两种检测方式对于图像缩放的鲁棒性表现是相同的(如图5右),但是简易CNN的方法曲线下降幅度更大。

5.png
 图4|基于图像压缩、缩放,两类检测模型的鲁棒性分析
 
然而,在这场AI博弈战中,检测技术只是短暂胜出,AI换脸及“打假”未来将是长期对抗的过程。不容否认,技术本身是中立的,如何在应用边界、内容审核等制度法规的有效管控下,促进AI换脸技术在医疗、教育、艺术、娱乐等领域发挥积极作用,而非演变成一场“猫捉老鼠的游戏”,这是监管机构、司法、企业、科研学术机构所共同面临的课题。
 
为向业内分享百度在人脸识别检测及模型鲁棒性分析领域的研究成果,促进多方部门开展联合开发及测量评估,百度安全目前已开源业内首个AI换脸检测工具,点击查看详情


0
现金券
0
兑换券
立即领取
领取成功