澎湃旧事记者 邵文
作为引领第四次科技革命的战略性技术，人工智能给社会建设和经济发展带来了严重而深远的影响。但作为前沿创新技术，数据隐私、技术滥用等伴生安全成绩也正给社会公共管理带来严峻应战，其中围绕“深度伪造”的伦理和法律争议不断是公众高度关注的热点话题。
随着深度合成技术不断演进迭代，制造一段高逼真度的虚伪音视频成本愈加降低，但其却可以借助社交媒体等平台短工夫风靡互联网。对于这样一种技术，假如不停止规制，无疑将产生可怕的后果。
在上海举行的2021世界人工智能大会上，一个能疾速识破“AI换脸术”的产品——DeepReal深度伪造内容检测平台发布。其可以经过研讨深度伪造内容和真实内容的表征差异性辨识、不同生成途径的深度伪造内容分歧性特征发掘等成绩，疾速、精准地对多种格式与质量的图像停止真伪鉴别。
这个检测平台由依托清华大学人工智能研讨院设立的人工智能企业——北京瑞莱智慧科技有限公司（简称“RealAI”）研发。
RealAI由清华大学人工智能研讨院院长张钹院士、清华大学人工智能研讨院基础实际研讨中心主任朱军教授共同担任首席迷信家，有人工智能安全平台RealSafe（针对AI系统的防火墙与杀毒软件）；隐私保护计算平台RealSecure（经过打通数据孤岛，将计算环节移动到数据端，完成数据安全共享流通）；深度合成内容检测平台DeepReal（疾速、精准地对多种格式与质量的视频和图片停止真伪鉴别）等产品。
RealAI副总裁唐家渝泄漏，针对深度伪造技术的防备，RealAI目前已与工信部、公安部、国家互联网应急中心、工信安全中心、中国信通院、公安三所等多家机构展开深化的项目合作。
“深度伪造”，也被译作“深度造假”，译自英语中的Deepfake，其是计算机的“深度学习”（Deep learning）和“伪造”（Fake）的组合，出现于人工智能和机器学习技术时代。粗浅了解就是把图片和声响输入机器学习的算法，从而可以随便地停止“面部操作”（Face manipulation）——把一个人的脸部轮廓和表情放置在其他任何一个人的脸上，同时应用对声响的逼真处理，制造出实为合成却看似极真的视频。
2019年国内红极一时的换脸软件“ZAO”就是公众最为熟知的运用，用户只需上传一张照片，就能秒变“戏精”，甚至还能与偶像同台飙戏，效果极其逼真。不久前，短视频范畴出现的“蚂蚁呀嘿”热潮，其基础也是深度伪造技术。
仰仗极强的文娱性与传播性，“深度伪造”技术一路走红。但同时，“低门槛、高效率、高质量”的特性，使其被大规模滥用于伪造身份、混淆视听，以完成网络欺诈、虚伪宣传与操纵言论等目的。
7月9日，北京瑞莱智慧科技有限公司首席执行官田天在上海世界人工智能大会演讲时明白指出，人工智能产业正进入高质量发展阶段，以深度伪造为代表各类安全成绩层出不穷，亟待处理。
与传统图像视频处理技术相比，深度伪造技术具有“门槛低、效率高、质量好”的特点，所以它也被探求用于影视、医疗、虚拟理想等商业，比如在影视后期制造中，表情操纵、全脸交换等深度合成技术可以被用于影视剧本地化嘴型修正、虚拟IP打造等场景中。
但是，与正面效应相比，这些特性也同步放大了潜在要挟和安全隐患。目前，深度伪造的技术门槛正大幅降低，网络上充斥着大量伪造教程和开源可用的计算机程序，即便是不具有专业算法才能的普通用户，也可以在很短工夫内轻松上手。尤其依托深度学习算法特性，在海量图像和视频数据的驱动下，深度合成技术不断演进迭代，仿真精度不断得到提升。所以，制造一段高逼真度的虚伪音视频成本极低，却可以借助社交媒体等平台短工夫风靡互联网。对于这样一种技术，假如不停止规制，将产生可怕的后果。
深度伪造技术的大规模滥用正损害到社会公众的合法权益。比如深度伪造技术最常见的非法运用方式，将一些知名歌星、影星等公众人物的脸“移花接木”到色情明星身上，伪造色情片非法牟利，或者是伪造恶搞视频，这对个人声誉权与肖像权构成严重损害。
其次是公众财产安全，不法分子可以应用破绽劫持手机辨认摄像头，应用照片活化、表情操纵等深度伪造技术冒充机主，进而对机主的微信好友实行转账诈骗。异样的，电信诈骗中也有相似应用“语音伪造”技术的案例。
不只如此，深度伪造还将会对社会安全和国家安全形成要挟。例如，借助互联网平台捏造虚伪旧事、炮制政治谣言，深度伪造技术大大添加了网络内容监管的复杂性，也带来了社会信任危机与网络政治安全风险。在病毒式传播的深度伪造视背后，能够蕴藏着操纵社会言论、激化社会矛盾与扰乱正常社会经济次序等系统性的危害。
“比如公安机关、司法机关的图像鉴别工作，深度伪造技术的出现将导致举证工作存在风险。”田天在演讲中补充道，“深度伪造技术也能够成为国家之间发起虚伪信息和平的最新武器，争光政治人物、伪造政治制度和毁坏国家间关系，甚至在将来军事战场上损毁特定军事或情报举动。在这种背景下，国内外政府高度注重，都出台了相关的监管制度。”
DeepReal检测结果展现：红色框代表判别为虚伪人脸，绿色框代表判别为真实人脸
检测准确率无疑是衡量该平台价值最为重要的目的。据唐家渝引见，检测效果次要遭到两个要素的影响：数据集多元化程度和算法牢靠程度。DeepReal深度伪造检测平台算法基于大数据量停止训练和测试，截至目前，数据量已达到千万级，数据集已覆盖三大类，包括：学术深伪数据集、网络深伪数据集和自研深伪数据集。同时，经过结合贝叶斯学习框架和深度神经网络，来估计模型在预测新样本时的不确定性。以上，有效保障了DeepReal深伪检测算法的泛化才能。
在测试结果方面，DeepReal在学术数据集和ZAO等主流方式生成的网络数据集中，已达到99%以上的准确率。而在实践运用中，DeepReal的检测准确率也已达到业界顶尖程度，远超 Facebook此前举行的Deepfake检测应战赛所公布的最好成绩。
天下武功，唯快不破。超高的准确度，还需求速度来支撑。DeepReal深度伪造内容检测平台，可完成每帧画面的检测工夫仅用时30毫秒。同时，还支持横向拓展与集群部署。检测终了，平台还支持生成检测报告。
DeepReal深度伪造内容检测平台检测报告表示图
责任编辑：李跃群 |
