智客公社

标题: 一秒识破“AI换脸术” [打印本页]

作者: 光亭千岛湖 时间: 2021-7-15 09:19
标题: 一秒识破“AI换脸术”

(, 下载次数: 1073)

图片来源：unsplash

记者秦志伟

随着人工智能的迅猛发展，一些运用Deepfake（人工智能换脸工具）深度伪造技术制造的换脸视频也在网络上屡见不鲜。这项技术甚至被别有用心的人应用，成为实施诈骗、诬害等罪恶勾当的工具。

“要用人工智能（AI）来检测恶意AI。”清华大学人工智能研讨院教授朱军说。

在2021世界人工智能大会上，依托清华大学人工智能研讨院成立的孵化企业——北京瑞莱智慧科技有限公司（以下简称瑞莱科技），发布了一款可以一秒辨仔细伪的鉴别“神器”——DeepReal深度伪造内容检测平台，让“假脸”无处遁形。

中国迷信院院士、清华大学人工智能研讨院院长张钹曾提出“第三代人工智能”的概念，也就是安全、牢靠、可信的人工智能。在他看来，DeepReal平台是一个很好的技术应对。

AI也会“作恶”

人脸是人类身份信息辨认最为分明的特征之一。但是，随着AI技术的飞速发展，这一切正在被深度伪造技术所瓦解。

深度伪造也被译作深度造假，译自英语Deepfake，是计算机的“深度学习”（Deeplearning）和“伪造”（fake）的组合。所谓深度伪造，是指把图片和声响输入机器学习的算法，从而可以随便地停止“面部操作”，即把一个人的脸部轮廓和表情放置在其他任何一个人的脸上，同时应用对声响的逼真处理，制造出实为合成却看似极真的视频，用以躲避辨认、混淆视听、文娱用户及完成其他虚伪宣传的目的。

近年来，非法应用AI技术伪造别人肖像吸引流量牟利，甚至从事欺侮、诽谤、网络诈骗、色情宣传等违法犯罪活动的案例已屡见不鲜。

“科技是发展的利器，也能够成为风险的源头，AI的发展也不例外。我们既要抓AI的创新发展，也要抓AI的管理，两手都要抓。”张钹说。

束之有“术”

门槛低、影响大、变化快是深度伪造技术的分明特征，且肉眼难以辨认，更无法大量检测。

朱军表示，实网环境中的伪造视频不断变化，需求有强对抗的手腕加以遏制，最好的方法就是“深度检测”。而在检测效果上，不只要有高准确率与高效率，还需求具有可解释性，让检测结果牢靠、可服气。此外，要可以疾速即时应对新型的深度伪造类型。

针对以上痛点，瑞莱科技基于第三代人工智能技术研发出了DeepReal，可以经过研讨深度伪造内容和真实内容的表征差异性辨识、不同生成途径的深度伪造内容分歧性特征发掘等成绩，疾速、精准地对多种格式与质量的图像停止真伪鉴别。

检测准确率是衡量该平台价值重要的目的。

瑞莱科技副总裁唐家渝引见，检测效果次要遭到数据集多元化程度和算法牢靠程度两个要素的影响。DeepReal深度伪造检测平台算法基于大数据量停止训练和测试。

据引见，截至目前，该平台数据量已达到千万级，数据集已覆盖三大类，包括学术深伪数据集、网络深伪数据集和自研深伪数据集。同时，经过结合贝叶斯学习框架和深度神经网络，来估计模型在预测新样本时的不确定性。

在测试结果上，DeepReal在学术数据集和ZAO等主流方式生成的网络数据集中，已达到99%以上的准确率。而在实践运用中，DeepReal的检测准确率也已达到业界顶尖程度，远超 Facebook此前举行的Deepfake检测应战赛所公布的最好成绩。

此前，瑞莱科技团队在国际安全极客大赛GeekPwn 2020 首届 CAAD 虚伪人脸 AI 辨认大赛上，以相对优势夺得冠军；在国家网信办与公安部共同指点的第二届“中国人工智能·多媒体信息辨认技术大赛”中，斩获“创新之星”奖以及深伪检测竞赛A类奖。此外，DeepReal在深伪相关范畴也已发表顶级会议和期刊论文十余篇。

值得一提的是，DeepReal深度伪造内容检测平台可完成每帧画面的检测工夫仅用时30毫秒。同时，还支持横向拓展与集群部署。检测终了，平台还支持生成检测报告。

AI界的安全之盾

理想上，深度伪造技术的滥用，给个人生活、国家安全和社会波动带来诸多成绩和应战，而且随着仿真精度的提升，这种成绩有愈演愈烈的趋向。

往年1月1日正式实施的《民法典》明白规定，任何组织或者个人不得以丑化、污损，或者应用信息技术手腕伪造等方式损害别人的肖像权。未经肖像权人赞同，不得制造、运用、公开肖像权人的肖像，但是法律另有规定的除外。

也就是说，制止应用信息技术手腕伪造的方式侵犯别人的肖像权和声响。

据唐家渝泄漏，针对深度伪造技术的防备，他们已与工业和信息化部、公安部、国家互联网应急中心等多家机构展开深化合作。

此前，该公司就与国家工业信息安全发展研讨中心结合制定我国人脸模型算法本身安全相关的第一个标准《信息安全技术人脸比对模型安全技术规范》；作为第二编写单位与中国信息通讯研讨院结合编制《人工智能安全框架（2020年）》蓝皮书。此外，他们也参与包括机器学习算法安全相关的国家标准以及人工智能合成音视频、人工智能生物特征辨认相关的行业标准等多项标准的制定工作。

唐家渝表示，将来DeepReal平台将在网络虚伪内容鉴别、人脸材料审核以及影像物证真实性检验等实践运用场景中发挥弱小作用。而瑞莱科技也将持续迭代技术、打磨产品，确保在这场深度伪造的“攻防战”中持续发挥作用。

来源：《中国迷信报》

作者: 张凯慧眼识君子 时间: 2021-7-15 14:32
回个帖子，下班咯~

作者: 大朋友 时间: 2021-7-16 14:32
占位编辑

作者: 爬上山头唱山歌 时间: 2021-7-17 11:15
前排支持下了哦~

欢迎光临智客公社 (https://bbs.cnaiplus.com/)