深度学习的广泛使用也让很多黑客跃跃欲试，有很多黑客利用神经网络的弱点对AI发起了攻击。德国研究人员Michael Kissner近日在GitHub上发起了HackingNeuralNetworks的项目，该项目总结了很多攻击和防御神经网络攻击的方法和经验，用于教学示范。该项目目前已登GitHub 热榜，共获得1572个星，152个fork。

在项目中，作者主要介绍了几种利用神经网络弱点对其发动攻击的方法，包括从使用神经网络的应用中找到漏洞，进行信息窃取、恶意程序注入和后门入侵等。此外还有利用深度学习训练中的内存加速，从GPU 攻入系统的方法。项目具体分为多个章节，每个章节都提供了对应的代码和练习教程。除此以外，作者还专门编写了教程，详细介绍了攻击原理和思路。

教程地址：https://github.com/Kayzaks/HackingNeuralNetworks/blob/master/Article.pdf

https://arxiv.org/pdf/1911.07658.pdf

项目分为9个部分，目录如下：

最后一层攻击—last layer attack

寻找神经网络后门—backdooring

信息提取—extracting information

暴力破解—brute forcing

神经溢出—neural overflow

恶意软件注入—malware injection

神经混淆—neural obfuscation

寻找漏洞—bug hunting

攻击GPU—GPU attack

并且每个部分都附有练习。

项目地址：https://github.com/Kayzaks/HackingNeuralNetworks

翻译作者：ang010ela