“年仅23岁北京创办人脸识别系统 开展AI研究之路”

近日，23岁的北京小伙单思雄与几位同学合作开发了ai对抗学习系统fawkes。 在芝加哥大学攻读直博的95年后，他告诉deeptech，fawkes开源自1月以来在github上获得了10万个以上的下载量和2600个以上的star。

目前，单思雄作为第一作者撰写的fawkes的研究论文《福克斯:保护隐私免受不正当的深度学习模式的侵害》: Fawkes:ProtectingPrivacyagainstunauthorizeds

他说，fawkes诞生于这个时候，有很大的时间窗的意义。

年初，一家名叫clearview ai的公司非法捕获了谷歌、推特、脸书和youtube的脸部照片，创建了30多亿张照片的脸部识别数据库，并通过出售算法获利 丑闻曝光后，舆论哗然，那家企业也成为众矢之的。

其实，无论是国内还是国外，你的照片都有可能被当作大鼠剥下来，训练机器学习模式。

为了处理这样的痛点，在芝加哥大学sand实验室的两位中国教师赵燕斌和郑海涛的指导下，单思雄和其他三位同学一起开发了fawkes。 这个命名是受黑客集团·阿尼马斯( anonymous )欢迎的盖伊·； 福克斯面具的敬意。

照片|据《纽约时报》报道，fawkes称，clearview ai可以不滥用顾客的照片进行脸部识别。

以一思雄的照片为例，fawkes的价值在于顾客可以重新制作照片。 这个改造并不是改变美国摄影软件的头部，用肉眼看和原来的照片一模一样，但是脸部识别系统能够识别出这种微妙的差异。

图采用fawkes评级前后的图

以英国女王的照片为例，左边的照片是原来的照片，右边的照片是fawkes编辑的照片。 肉眼几乎看不出差异，但这种差异可以通过机器识别。

照片| fawkes修订后的英国女王前后的照片

在 中，之后向WeChat的力矩发送照片，就可以使用fawkes制作的照片。 不仅和真的没什么不同，看起来更安全。 因为被fawkes愚弄的照片，即使有人做模特，实际上也不是你的照片。 对机器来说，它和你很像，但其实是不存在的人。

根据这篇论文，fawkes在face ++、微软azure face、亚马逊rekognition等面部识别服务上取得了100%的成功。

与 图|脸部识别API (微软Azureface、亚马逊rekognition、游戏识别face ++ ) )相比，伪装非常有效

对 deeptech，单思雄表示，机器学习已经很火热了，大家有了电脑，就可以gpu、编码，建立机器学习模型。

越来越方便，给客户的安全带来很大威胁。 fawkes的意思是不正确的机器学习模式，不能识别客户的脸。

通过更改几个像素，可以将照片判断为不同的人

fawkes采用的第一个技术是对抗学习，给图像加上小的噪声。 这里的添加噪声是指改变像素。

在 实验中，单思雄首要的是用电脑跑代码，编程主要采用python语言和深度学习框架tensorflow的数据集主要是图像，除此之外还有gpu等硬件

分工上，他去跑亚马逊的api，其他人去跑微软和稀世的api等，单思雄和4个作者每人做一个实验。

在跑完 代码后，单思雄测试了亚马逊、微软和广阔的面部识别系统。 根据测试，这些系统都无法识别fawkes制作的照片是谁，这意味着fawkes的诞生成功了。

在此以api为例进行说明。 当一家企业在大门处安装面部识别系统，同时找到亚马逊想要做它时，该企业会把员工的照片交给亚马逊。 后者会为那个企业做模型。 模型完成后，可以在企业的大门口进行面部识别。

而且，单思雄团队也使用了与脸部识别门相似的系统保存着各种各样的照片。 如果你的照片受fawkes保护，没有被脸部识别系统识别，就是保护成功了。

对抗 的过度敏锐

fawkes开源后，一些网民表示难以置信。 仅仅改变几个像素，就有可能导致一个脸部识别系统无法完全识别吗？ 其实这其中涉及到对抗学习，到目前为止业界已经进行了很多研究。

大家都知道 会变得更聪明，但是智慧的东西没有遇到热情的人，反而会伤害客户。 而且，fawkes所做的事件是对抗这种可能存在的伤害，是对抗ai系统的过度敏锐。

具体来说，fawkes只是将左边的照片变成右边的照片的工具。 你有a图，fawkes可以算出b图。 虽然a图和b图的区别非常微妙，但是现在制造商的脸部识别系统可以认为a图和b图不是同一个人，从而保护客户的隐私。

这次研究的优点是，迄今为止的对抗学习研究只对一个特定的脸部识别有用，而fawkes对大部分脸部识别系统有效。

照片|此次论文的作者4人和导师2人，左上为单思雄

如何理解如果施加噪音，动物会从a变成b？

如下图所示，fawkes改造像素后，尽管脸部识别系统可以让熊猫识别为长臂猿。 但是，与人眼的感知相比有一定的例子。 也就是说，从人眼来看，下方前后的图似乎没有变化。 这是因为fawkes的噪声对人眼视觉的影响很小，但对机械模型有影响。

照片|编辑像素的熊猫被识别为长臂猿

fawkes增加噪声的方法是稍微改变图像的像素。 例如，稍微降低照片眼睛部分的像素，具体调整多少，是根据算法计算出来的。 最终，只需更改一小部分像素即可影响模型。

这个队伍由演员帕特里克·组成； 以登西( patrick dempsey )的脸部照片为对象，女演员格温妮丝·； 帕龙的图像，这是为了识别隐藏图像中的格温妮斯·而屏蔽脸部识别； 多伦多的可能性。

照片| fawkes用登普西的脸遮住了帕特伦的照片，采用这些图像的系统开始将她和登普西的一些脸部特征联系起来。

clearviewaiCEO对传真做出了响应

fawkes的采用并不太复杂。 想在朋友圈发照片的时候，请用fawkes跑原始照片，编辑几个像素后发到网上。 那样的话，别人就不能用你的照片训练模特了。

对于 APP，fawkes团队也很坦率，需要更广泛地发布才能使该软件真正发挥作用。 出于安全考虑，他们不打算为fawkes开发网站和APP，但希望像facebook这样的公司能够将类似的技术集成到自己的平台上，从而更安全地保护客户的招聘。 目前，fawkes团队收到个别企业的合作意向。

这个项目成立的时候，正是年初，当时clearview ai的丑闻被媒体曝光了。 客户也开始担心在网上发送照片的危险，但是fawkes正好在这个时候启动了项目，半年后完成了。 正好可以满足客户的刚需。

但是，fawkes也不是绝对完美的，无法解决使用未修改的图像构建的模型，如clearview ai等企业和执法机构已经拥有的图像等。

clearview ai首席执行官hoan ton-that在了解这项技术后表示，互联网上有数十亿张照片，每个照片使用不同的域名。 事实上，完全部署fawkes等技术并将其大规模部署几乎已经很晚了。

但是，单思雄的导师赵燕斌回答说，这家企业掌握着大量数据，但被分到每个人的头上，只有几张。 在大家逐渐开始使用fawkes之后，受保护的照片将远远大于该企业的原始照片，clearview的识别将失去作用。

因此，人们从现在开始可以采用fawkes保护想入驻的个人的照片。

23岁年轻人的ai之路

1997年出生的单思雄今年23岁。 高中时，他在北京十一中学学习，高三参加美国高考，进入芝加哥大学学习ai安全和ai隐私。

他的主要指导老师是前文的赵燕斌教授和郑海涛教授，两者都是《麻省理工学院科技评论》35岁以下科技创新35人排行榜( tr35 )的获得者。

单思雄和两个导师的相识是在大学二年级期间开始的。 当时，赵燕斌从加州大学圣巴巴拉分校来到芝加哥大学学习新知识。 因为以前就听说赵燕斌的事，所以他主动联系了后者。

接触中，他发现赵燕斌热心教学，研究中出了问题，很快就能拉着他开会，会议结束后马上处理，效率高到令人咂舌。 赵燕斌很会详细说明问题，而且很会启发学生，让学生积极思考。

未来，单思雄主修直博期间的导师之一，还是赵燕斌。 目前，他在本科期间累计发表6篇论文。 年11月，他的另一篇对抗学习的论文，已经被ccs采用了。 摆在这个中国年轻人面前的是一条未知的、更有意义的ai研究之路。

本文：《“年仅23岁北京创办人脸识别系统 开展AI研究之路”》