你亲手晒在网上的照片，正被人拿来喂养 AI

1989 年，与圣诞节一同到来的，还有崭新的互联网里程碑：万维网 (WWW)。

万维网的发明者伯纳斯·李认为：互联网最具价值的地方，在于赋予人们平等获取信息的权利。基于这个理念，1993 年 4 月 30 日，万维网对外免费开放，让地球人都成了渔民。

受互联网分享文化的熏陶，随手拍照、分享集赞已是常态，但在人工智能时代，你亲手晒在社交网站上的照片，很可能会把自己推向被监控的境地。

相当数量的人，在不知不觉中，已经成为受害者。

1、人脸识别的“肮脏小秘密”

2020 年初，位于美国的面部识别技术公司 Clearview AI，惊爆丑闻。

Clearview AI 通过软件，悄无声息的从 Facebook 和谷歌等多个网站中，提取人脸图像，并创建了一个数据库，有可靠数据显示，数据库中的人脸图像超过 30 亿张。Clearview AI 一边充实数据库，一边将数据库授权给执法机构使用。

目前，已有世界各地的数百个执法机构取得授权，甚至还包括一些私营公司。在如此庞大数据集的交易下，照片的拥有者却毫不知情。

这样的事情，远不止这一起。

2019 年，纽约时报发表了一篇报道，题目是《你孩子的照片，是如何为监控技术提供动力的》。

克洛伊和贾斯珀的母亲，是众多热衷于用照片记录孩子的母亲之一。2005 年，她在照片分享网站 Flickr 上注册后，上传了很多孩子的照片。

没想到，14 年后，克洛伊和贾斯珀的照片，和其他家庭的数十万张照片一起，被存储在一个叫做“MegaFace”的数据库中，数据库里有近 70 万个人的肖像，已经被数十家公司下载，不仅用于训练新一代的面部识别算法，也用于跟踪抗议者、监视恐怖分子，以及监视广大公众。

而这些照片的数十万个主人，在丑闻曝出之前，毫不知情。

我们都知道，人脸识别离不开机器学习，而机器学习的重中之重，就是数据样本。

早期，研究人员想要得到人脸照片，唯一的方式是购买：贴出广告，吸引有意向的人来到实验室，在签署同意书后，让这些人在不同的光线下，用不同的姿势拍照，以此作为训练 AI 的样本。

到了 21 世纪，网络开始兴起，更为快捷方便的照片获取方式出现了，只需在搜索引擎中输入姓名（此时大多是名人），就能下载关于他们的所有照片。

时间继续往后推移，名人的照片已经不能够满足需求，于是，研究人员的目光转移到了社交媒体上的普通人。

由此，人脸识别领域开始出现“肮脏小秘密”：秘密盗用在线照片，用来训练 AI，乃至监控。

2、毒药，亦是解药

欧洲有一个著名的谚语，叫做“阿喀琉斯之踵”。

相传，阿喀琉斯是凡人英雄珀琉斯和海洋女神忒提斯的儿子，打小就受到父母宠爱。后来有预言传出，阿喀琉斯长大之后，会成为伟大的英雄，将参加特洛伊战争，但特洛伊城会陷落，阿喀琉斯也会战死沙场。

母亲忒提斯一听，开始想办法。

为了让阿喀琉斯有金刚不坏之身，她紧紧捏住阿喀琉斯的脚后跟，把他倒提着浸入冥河，这样一来，露在水外的脚后跟，成了阿喀琉斯唯一脆弱的地方。

后来，一切都跟预言的一样，拥有不死之身的阿喀琉斯，被毒箭刺中脚后跟，轰然倒地。

这个谚语说明：再强大的人，也一定会有致命弱点。而深度机器学习的“阿喀琉斯之踵”，就是对抗性样本。

只要在机器学习的图像中，稍微加入一点点噪声 (干扰像素)，机器眼里的熊猫，一瞬间就会变身成为长臂猿。这意味着，深度学习模型其实非常脆弱。

这种脆弱性，已经是人工智能时代的安全隐患。

对于无人驾驶来说，攻击者只要在道路上放置几张驾驶员都难以察觉的特殊纸片，无人驾驶车辆途径这里时，就会突然转向隔壁的逆向车道，驾驶员很难及时做出反应。这种攻击就叫做数据投毒。

但毒药在某种场合下，也能变身为解药，比如前面提到的在线照片秘密盗用。

前不久，芝加哥大学研究人员设计出一个工具 Fawkes，利用数据投毒的原理，给照片披上一件“隐身斗篷”，能够避免普通人晒在网上的照片被用来训练 AI。

在机器的眼里，照片只是一堆像素数字，只要极细微的更改照片中的一些像素，机器就无法识别出图像中的人，而在人的眼中，经过修改的照片与原图，几乎没有任何差别。

研究人员已经将 Fawkes 免费对外开放，当你在各个网站晒出照片之前，只需用 Fawkes 进行修改，就能避免照片被秘密盗用去训练 AI。经过测试，Fawkes 能够让旷世、微软、亚马逊等公司的面部识别算法 100% 失灵。

AI 的毒药，也是“丢脸”的解药。

这也许就是现代版的“以子之矛，攻子之盾”。

嗨，这里是浅黑科技，在未来面前，我们都是孩子。

想和我做朋友的话，搜索微信 Muzi_Yanni 就可以找到我，想看更多科技故事，欢迎戳→微信公众号：浅黑科技（qianheikeji）。