IT思维

公众号/大数据文摘

大数据文摘出品

作者：刘俊寰、Min

先来玩一个“大家来找茬”。

应该没有人不认识英国女王伊丽莎白二世吧？但如果文摘菌说，其实这不是“一个人”，你能看出左右两张照片有什么不同吗？

在肉眼看来，这大概率就是“英国女王在逃姐妹”了，但是对于人脸识别系统来说，这两张照片可是天差地别的不同。

这是芝加哥大学沙地实验室（Sand Lab）的科学家们创建的一个叫做Fawkes的工具，该工具主要使用AI技术，神不知鬼不觉地修改你的照片，以欺骗面部识别系统。

那么，为啥要让机器认不出你呢？

很有必要！

如今，无处不在的人脸识别系统对于我们的隐私造成了巨大的威胁，一些技术公司在网上大规模地搜集我们在社交媒体上分享的照片，将其用于训练用于商业销售的算法，任何人都可以购买这些工具系统，在几秒钟内辨别出谁是谁。

这已经够可怕了，但更可怕的是，有人会私自用你的照片来打广告。

这样的事情就真实地发生在了一位名叫Shelby Church的博主身上，她表示，自己没有签订相关的合同，也没有允许任何商业机构使用自己的照片。但正是由于如今照片的可获得性，以及缺少版权审批流程，相关的事情才得以发生。

也正是在这个背景下，芝加哥大学沙地实验室的科学家们创建了这个叫做Fawkes的工具，让机器无法认出你。

研究人员介绍道，Fawkes是以《V字仇杀队》漫画和电影中革命者戴上的Guy Fawkes面具而命名的。

这个工具，能让你的脸不是你的

Fawkes的工作方式说简单也简单，说复杂吧，也稍微有点复杂。

根据研究人员介绍，Fawkes处理后的照片不是直接让你“隐身”了，而是对照片进行一些微妙的修改，虽然肉眼看上去没什么差别，但是任何算法在扫描这些图片时，会把你看成一个完全不同的人。

也就是说，从本质上讲，Fawkes处理后的照片就像给照片添加了一个隐形的面具。

研究人员把这一过程称为“伪装”，它的目的是破坏面部识别系统运作所需的资源，也就是他们从社交媒体上搜罗的人脸数据库。

例如，面部识别公司Clearview AI声称已经从Facebook、YouTube和Venmo等网站收集了大约30亿张人脸图像，用来识别陌生人，但研究人员表示，如果你在网上分享的照片经过了Fawkes处理，那么算法识别的结果就是你的脸其实不是你的。

研究人员利用微软、亚马逊、旷视的人脸识别系统进行实验后，Fawkes的对抗识别取得了100％的成功。

比较未使用Fawkes处理和处理后的脸部图片。图源：芝加哥大学SAND Lab

“我们正在做的就是本质上像特洛伊木马一样，使用伪装的照片来破坏未经授权的模型，让模型了解让你看起来像你而非他人的错误信息。”帮助创建Fawkes软件的芝加哥大学计算机科学教授Ben Zhao表示。

“一旦破坏完成，无论你走到哪里，或者被人看到，你都会被持续保护。”

Fawkes对于科技公司而言意味着什么？

今年早些时候，研究人员就发表了一篇关于该算法的论文。

上个月底，他们发布了Fawkes的Windows版本和Mac版本的免费软件，任何人都可以下载和使用，到目前为止，Fawkes的下载量已经超过了10万次。

不少人使用Fawkes的反馈是，Fawkes的设计很粗糙，应用起来非常简单，处理图片的速度也很快，每张照片只需要几分钟，而且几乎察觉不到处理前后的差异。

此前，《纽约时报》的一篇报道指出，Fawkes的隐身效果相当明显，系统会对图片进行性别化的改变，比如女性修出一些胡子。Fawkes团队表示，更新后的算法会微妙很多。

但是，Fawkes是保护隐私的灵丹妙药吗？这是存疑的。

首先还是使用的问题。如果你决定以后上传到社交媒体上的照片都先用Fawkes处理一下，那你肯定是少数。面部识别之所以令人担忧，是因为这是一个社会趋势，解决方案也自然需要全社会共同参与，如果只有精通技术的人采用相关的屏蔽技术，那只会造成不平等和歧视。

其次，很多人脸识别算法公司很早以前就建立了人脸数据库，你无法追溯这些信息。Clearview AI的CEO Hoan Ton-That也曾这样告诉《时代周刊》，“互联网上有数十亿张未经修改的照片都放在不同的域名上，实际上，要完善像Fawkes这样的技术并大规模部署，几乎可以肯定为时已晚”。

不过，Fawkes团队对这种评价持反对态度，他们指出，虽然像Clearview AI这样的公司声称拥有数十亿张照片，但当你考虑到他们的识别对象是数亿用户时，这就不算什么了。“对于很多人来说，Clearview AI有可能只拥有非常少的公开照片，如果未来人们发布更多的隐身照片，迟早有一天，隐身照片的数量会超过未隐身的照片”。

在应用方面，Fawkes团队承认，他们的软件要想真正发挥作用，就必须更大规模的发布。出于安全考虑，他们没有计划制作网页或移动应用，但是他们也希望，像Facebook这样的公司未来可以将类似的技术整合到自己的平台上。

这项技术其实是符合大科技公司利益的，Zhao说。毕竟，像Facebook这样的公司不希望人们停止分享照片，同时他们仍然也可以从图片中收集他们需要的数据用于照片标签等，然后再将它们隐匿在公共网络上。整合这项技术可能只会对目前的用户产生很小的影响，但它可以帮助说服未来注重隐私的一代人注册这些平台。

“被如Facebook或其他大平台采用的话，对Clearview AI这类公司会产生巨大的影响，因为基本上会使他们的技术无效，以至于它作为一项服务将不再有用或在财务上变得不可行，”Zhao说，“Clearview AI这样的公司如果因不再提供相关或准确的结果而倒闭，那会是对我们工作的极大褒奖”。

相关报道：
https://www.theverge.com/2020/8/4/21353810/facial-recognition-block-ai-selfie-cloaking-fawkes
https://onezero.medium.com/a-scammer-turned-my-face-into-a-google-ad-5d4e7c65718e