都市快报 首席记者 梁应杰 记者 万禺
还记得不久前在欧美再次走红的AI视频换脸吗？一款名为Deepfake的工具，可以应用人工智能算法，将一个人的脸合成到另一个人的视频中，当用来训练的数据足够多，相关计算才能足够弱小时，人们很难直接辨别视频的真伪。
昨天一天，冤家圈出现了大量被“换脸”的短视频。网友们纷纷将本人的脸换到黄晓明、肖战、沈腾等明星身上，成了《中餐厅》《陈情令》《羞羞的铁拳》等抢手节目和影视剧里的一员。
AI视频换脸这股风彻底刮到了国内，也带来了一系列关于版权、隐私权、安全等成绩的拷问。此前这项技术就曾经被不法分子应用，成为繁殖色情黑产的温床。
上传照片完成脸部的“移花接木”
这些视频是经过一款名为ZAO的软件制造完成。用户下载完软件后，选择本人心仪的视频，找到想要交换的那个角色，按照要求上传或自拍明晰度较高、光线较好的照片之后，再经过后台制造，就能完成“换脸”的全过程，顺利的时分只需5-10秒，非常方便。
昨天一天，我的冤家圈不断有人上传本人的换脸视频。目前，ZAO上有数百个可以用来换脸的片段，触及众多抢手IP。假如你情愿，可以把本人变成《西游记》里的唐僧，《长安十二时辰》里的李必。除了造视频外，ZAO还可以制造表情包，带有社交分享功能。
从合成效果看，ZAO的确比之前主打相似功能的软件要好。特别是正脸的形状下，一些视频足以“以假乱真”，但在侧脸以及角色远间隔辨认上还有所完善。
另外，目前这款App不支持用明星换脸。比如，我试图上传好莱坞影星“小李子”的照片停止合成，系统会提示检测到公众人物，除非自拍停止肖像验证，否则不能直接合成。这一定程度上保护了明星的肖像权。
从苹果商店的材料来看，ZAO的研发方是长沙深度交融网络科技有限公司。天眼查材料显示，这家公司的法定代表人是雷小亮，监事是王力。两人的另外身份分别是陌陌公司结合创始人兼游戏业务部总裁，以及陌陌公司董事、总裁及COO。因此，这款软件很有能够和社交平台陌陌有关系。
昨天，也有媒体表示，这个项目由陌陌CEO唐岩主导，2019年春节后立项，曾经推出过几个版本，没想到在这个工夫点迸发。由于大量新用户的拥入，从前天清晨末尾，ZAO的服务器就处于半瘫痪形状，体验也没有一末尾那么顺畅。
算法2017年就有
杭州也有团队探索了小半年
对国内网民来说，AI换脸这种方式并不新颖。往年年终，B站UP主“换脸哥”发布的一段94版射雕英雄传视频。把本来饰演黄蓉的朱茵的脸换成了杨幂。从流出的视频和动图来看，虽然是用AI合成，全体效果非常逼真。
“换脸哥”用的技术就是来自于美国的Deepfake。虽然ZAO到目前为止还没有引见本身技术，但很大能够也和Deepfake有关。
早在2017年，一位名叫Deepfake的用户上传了一种新的色情视频，将色情明星的面孔换成名人面孔，一下子惹起了轩然大波。后来网友为了纪念这项技术，直接将其命名为Deepfake。2018年，Deepfake的算法在GitHub上发布，成了完全开源的项目，任何拥有足够专业知识和足够配置计算机的人都可以制造相似的虚伪视频。
杭州手滑科技的技术团队最早接触Deepfake是在去年年底，当时外部还讨论过这一技术商业化的才能。往年4月，他们正式将AI视频换脸立项，原因是横店影视城希望赋予传统穿龙袍拍照的旅游项目更多科技感。
“实践上，从去年末尾国内很多团队都在基于Deepfake做开发和商业化，只不过都没有ZAO效果那么好。”手滑科技的技术主管表示，如今本人产品的换脸效果也无法达到ZAO的程度，“ZAO背后的技术很有能够也和Deepfake有关，由于有大资金支持，长大非常快。”
在原理上，Deepfake运用的是最知名的深度学习算法之一GANs。GANs全称为生成式对抗网络，由往年34岁的IanGoodfellow在2014年发明。往年3月份，被称为“GANs之父”的IanGoodfellow从谷歌跳槽到苹果。
简单来说，Deepfake技术依托两个人工智能互相“打架”完成。一个造假，一个鉴别，然后反复在细节上“去伪存真”，直到担任鉴别的那个人工智能无法辨别造假视频。除了视频，GANs的算法还能用到声响、图像等多个范畴。
AI换脸繁殖黑产美国正在加强对AI被滥用的监管
对于Deepfake，杭州某大学的一名大四男生奇哥并不生疏。去年年末，他在一个交换技能的微信群里，就收到过群友发的AI换脸不雅视频，一如当年Deepfake在欧美的走红。
“发的人说外面女主角是当红女明星，当时特别猎奇，就点出来看了。”奇哥表示，视频工夫很短，只要30秒，“内容有点露骨，但是能明晰地看到那个女明星的脸，假如不是后面知道了Deepfake，还以为是真的。”
在网上，Deepfake迅速被一些不法分子应用，构成了制造、销售不雅视频的产业链。也就是在一个月前，我曾在一个二手买卖平台发现，有人在售卖Deepfake的教程，详细到该用什么配置的电脑停止操作，还提供云服务器的租赁服务，减轻电脑压力。一位卖方告诉我：“能将你想要的脸换到你想要看的任何视频上。没什么门槛，大家都可以玩。”
更有甚者，一些不法分子在私下销售完成换脸的不雅视频，比如花上100元就能打包200部视频，几乎囊括了国内一二线女明星。之后由于相关报道，一些平台下架了教程和视频，但在网上还是可以找到。
昨天，我在一个电商平台搜索AI换脸相关软件时，就发现有商家销售Deepfake相关教程，价格在5到10元不等，销量最高的一家店已显示有41人付款。在这家店的概况页上，商家用红底白字写了一个声明：由于软件功能弱小，任何视频都可以换脸！严禁用于不合理目的！
对于这项技术和不法分子的做法，好莱坞女明星斯嘉丽·约翰逊就表示：“什么也阻止不了这些人把我的图片复制粘贴到另一个人的身体上，并且让它看起来逼真得可怕。”
目前，针对Deepfake带来的负面影响，欧美等国家曾经展开了举动。美国《通讯规范法》第230条规定：“交互式计算机服务提供者或运用者，就非出于己的信息内容，不应被视为内容的出版人即发表人。”据国外媒体报道，这条规则能够由于Deepfake而改变。
另外，美国议员正在起草法案，触及整个AI产业的监管，从上到下都必须参与其中。由于AI换脸曾经影响到美国政坛，美国国防高级研讨计划局为此设立了“媒体鉴证”项目，以开发能辨认Deepfake的工具，项目最后旨在完成现有鉴证工具的自动化，后来将终点转向了人工智能生成的虚伪视频上。
昨天，ZAO走红的同时也引发了关于隐私、版权、安全等成绩的讨论。许多人第一工夫尝鲜，并没无看法到在点击注册的同时，和ZAO所属公司签署了“不对等条约”。引发更大讨论的是安全性，在人脸可以作为支付工具的当下，一家公司假如掌握了人脸数据，是不是相当于有了打开你银行账户的密码？首席记者梁应杰
霸道到在理的用户协议
昨天，我下载体验完ZAO之后，试图删掉本人用于体验的照片，发现只能用新的脸部照片代替，不能直接删除。异样，我也无法登记ID，意味着我的脸只能老实待在ZAO的后台。
这本来也没什么太大成绩，直到我看到一份用户协议。内容是，一旦运用了ZAO，就默许“赞同或者确保肖像权益人赞同授予‘ZAO’及其关联公司全球范围内完全收费的、可以对用户内容停止部分的修正或编辑（如将短视频中的人脸换成另一个人的人脸等）以及对修正或编辑前后的用户内容停止信息网络传播的权益”。
什么意思呢？就是ZAO拿了用户的肖像之后，可以无偿运用并修正，还可以随意在网上停止传播。
这还没完，其实ZAO能在短期内走红，和它平台上大大小小数百个风趣的短视频有关，一切换脸都是基于这些短视频停止再合成。成绩是，ZAO能否拥有这些视频的版权呢？要知道，之前一度火遍全网的App小咖秀就曾由于版权成绩被判赔偿。
令我没想到的是，ZAO用了一个不讲理的方式“处理”了这一成绩。用户协议规定：“在您运用‘ZAO’提供的技术服务在‘ZAO’内把用户内容中的人脸换成您或其别人的脸时，您赞同或确保肖像权益人曾经赞同授予‘ZAO’运用‘ZAO’的技术服务对您的或其别人的人脸停止处理，但仅为与用户内容合成为新的内容。”
留意“肖像权益人”这个词，换句话说，我在把我的脸换到沈腾脸上的时分，得确保沈腾曾经赞同这一行为。相当于变相把侵权的成绩甩给了用户。
能够还嫌这样不保险，用户协议还在“内容发布规范”里进一步规定，假如用户有相应的侵权行为，该当独立承担法律责任并承担损害赔偿责任，“ZAO”及其关联公司遭受损失的，也该当一并赔偿。
也即是，沈腾假如由于肖像权向我提起诉讼，那责任就全在我这边，与ZAO有关。
在北京炜衡（成都）律师事务所专职律师“法山叔”看来，ZAO这样的用户协议曾经涉嫌过度攫取用户授权，让用户在有形中将本人的肖像权拱手让人，同时将变脸涉嫌侵权的风险也转嫁给了用户。
目前不必担心支付安全
在看到AI换脸视频疯转的同时，也有人担心本人的高明晰度、光线良好的照片被平台获取，能否会存在被拿去盗刷的风险，毕竟如今大街小巷都有刷脸支付的机器。
针对此事，昨天半夜支付宝官方回应，目前网上各类换脸软件有很多，但不管换得有多逼真，都是无法打破刷脸支付的。他们表示，“刷脸支付”采用的是3D人脸辨认技术，在停止人脸辨认前，也会经过软硬件结合的方式停止检测，来判别采集到的人脸能否是照片、视频或者软件模拟生成的，能有效避免各种人脸伪造带来的身份冒用状况。
昨天，就人脸被冒用一事，我也找了杭州本地一家做金融安全的公司。对方表示，目前大部分和金融相关的人脸辨认，用的都是安全级别较高的软硬件，很大程度上避免活体检测、视频攻击等带来的风险，“但换脸的技术也在不断更新，这样的要挟会不断存在。”
目前，在手机银行端，人脸也多为辅助认证的功能，真的触及大额消费和转账，也还是以短信等其他认证工具为主。
AI换脸看上去越来越风险了
理想上，这曾经不是AI换脸在国内初次形成恐慌。早在2017年，一场繁华的“全民军装照”活动就曾堕入人脸隐私泄露的质疑中。有人以为用户上传照片，制造军装照的过程中，被要求获取一些授权，很有能够被别人应用，带来损失和不利的影响。
后来，推出这项活动的《人民日报》和腾讯团队出面阐明，也停息了用户心中的恐慌。但围绕在人脸辨认和人脸隐私安全上方的阴云一直未散去，特别是在人工智能介入后，让AI换脸看上去越来越风险了。
比如往年6月初，一段有关facebook创始人马克·扎克伯格的假视频在instagram和facebook上广为传播。视频中的人穿着和扎克伯格一样的衣服，从容颜到举止都跟扎克伯格几无二致，只是声响有些奇异。
几乎在同一工夫，职场社交平台领英上还出现了一个疑似间谍的账号。她的名字是KatieJones，头像是一个典型的白人女性，有着显赫的履历。但实践上，无论从哪段阅历动手，都查不到她在理想世界留下的脚印，而关注她的人里包括了不少政要和专家。经过调查发现，她的脸很能够是用AI合成的。
一个理想是，Deepfake的算法来自于对抗神经网络GANs。据DeepTrace平台统计，2018年，全球触及到GANs生成图像和视频的论文多达902篇，而研讨如何辨认合成图像和视频的论文只要25篇，仅为前者的1/36。
这意味着大部分技术团队都在让AI“以假乱真”的事情上投入精神。而有意有意地将照片和自拍上传到各种平台上的我们，实践上也为AI的长大提供了协助。 |
