|
本文引见了美国的一家面部辨认公司从网络上获取多达30亿张照片为其面部搜索引擎提供训练数据所引发的争议。
[ 导读 ]虽然公众监督的呼声很高，但是面部辨认AI已悄然地被机构用作监视的手腕。魔高一尺，道高一丈，迷信家们也在如火如荼地开发阻止上传到社交网络的自拍被AI训练的工具。
近期，纽约警察局（NYPD）在运用机器狗方面引发了很大的争议。但是，另一件事你不得不也关注起来：他们曾经运用面部辨认工具（Clearview AI）超过两年工夫。
全国数百万人被Clearview AI锁定
公众自拍成训练数据
Clearview AI是一家美国面部辨认公司，为执法部门，大学等公共机构提供软件。
他们曾经从网络上获取多达30亿张照片为其面部搜索引擎提供训练数据。讽刺的是，政策并不允许NYPD创建一个供脸辨认系统运用的无监督学习照片库，而Clearview AI正是依赖于来自社交媒体的庞大公共照片库。
政策还包括将面部辨认技术限制在特定的团队中，而如今则是将权限开放给了更多不相关的警员，甚至知情人士的邮件还指出有警员违规将软件下载到了个人设备上并随意运用。
经过Buzzfeed News发布的一个包含1800多个实体的数据库发现，来自全国近2,000个公共机构的7,000多人曾经运用Clearview AI搜索了数百万人的面孔，其中包括细微案件的嫌疑人及其家人和冤家。但这能够仅仅是末尾。
如今，任何具有基本编码技能的人都可以开发面部辨认软件，这意味着滥用技术的潜在能够性都比以往任何时分都大。
媲美数千人的数据攻击，你也能完成
许多AI研讨人员正在开发确保AI无法从个人数据中学习的工具。
众所周知，数据攻击曾经不是什么新奇的事物，诸如删除目的公司所拥有的数据，或运用假样本污染数据集从而更难训练准确的机器学习模型。
但是，这些通常需求需求数百或数千人参与才能得以完成。而新的技术和传统的数据攻击的区别在于它可以让个人用户去处理本人的照片。
「这种新的技术可以用作个人锁定数据的密钥，」澳大利亚迪肯大学的Daniel Daniel说， 「这是在AI时代保护人们的数字权益的一种新的火线防御。」
小工具一：超过五十万下载！「Fawkes」把AI耍得团团转
Fawkes提供了Mac，Windows和Linux的安装包：「sandlab.cs.uchicago.edu/fawkes/」。
芝加哥大学的Emily Wenger与同事们便开发出了首个完成这一目的的工具：Fawkes。Fawkes对图像停止宏大的改动，这些更改很难用人眼察觉，但却可以诈骗AI，导致它无法正确辨认在照片中看到的人或物。
这项技术非常接近一种对抗性攻击，在这种攻击中，对输入数据停止小的更改能够会迫使深度学习模型犯下错误。
在Fawkes中导入照片，它将为图像添加像素级扰动，从而阻止先进的面部辨认系统辨认照片中的人物。与以前的做法不同，例如戴着AI诈骗的面部彩绘，它所生成的图像在肉眼看来没有分明变化。
Wenger针对几种广泛运用的商业面部辨认系统（包括亚马逊的AWS Rekognition，微软的 Azure）测试了他们的工具。在一个包含50个图像的数据集的小型实验中，Fawkes对一切图像均具有100％的有效性，在经过Fawkes调整的人像上训练的模型无法从新的图像中辨认出这些人。
小工具二：「LowKey」让AI根本发现不了你
LowKey可以在线上停止直接运用「lowkey.umiacs.umd.edu」。
与基于对抗性攻击的Fawkes不同，LowKey对图像的处理并不是去导致AI犯错，而是更进一步的将图像转化为无法被学习的样本，有效地使AI在训练过程中完全忽略经过处理的图片。
在之后将其提供给模型时，AI对其中内容的评价并不会比随机猜测的更好。这种无法被学习的样本比对抗攻击更有效，由于模型无法应用它们停止训练。
在网络上的图像（上）
经过处理使面部辨认系统忽略的无法学习的样本（下）
AI学习的对抗性的样本越多，它的辨认才能就越强。但是由于LowKey从一末尾就阻止了AI停止图像训练，因此也就不会发生AI越来越强，越来越难以诈骗的状况。
这并不是庸人自扰，在往年早些时分微软的Azure就经过更新晋级，使部分版本的Fawkes的效果出现分明的下降。不过值得高兴的是，上个月Fawkes完成了1.0版本的更新，处理了这个成绩。
参考材料：
https://www.technologyreview.com/2021/05/05/1024613/stop-ai-recognizing-your-face-selfies-machine-learning-facial-recognition-clearview/
https://www.technologyreview.com/2021/04/09/1022240/clearview-ai-nypd-emails/
https://sandlab.cs.uchicago.edu/fawkes/
https://lowkey.umiacs.umd.edu
编辑：黄继彦
校正：林亦霖 | 
