智客公社

标题: DeepReal检测平台鉴别“深度伪造”，助力人工智能高质量发展 [打印本页]

作者: zhangqun张 时间: 2021-7-13 20:19
标题: DeepReal检测平台鉴别“深度伪造”，助力人工智能高质量发展
当前，人工智能技术正被广泛运用于多场景，包括虚拟货币支付、物证合一认证、解锁智能终端等，这些黑科技在疾速推进社会发展的同时，数据隐私、技术滥用等伴生安全成绩也正给社会公共管理带来严峻应战，其中围绕“深度伪造”的伦理和法律争议不断是公众高度关注的热点话题之一。
如何依托技术支撑，在科技便利和社会安全之间找到平衡点，并有效保障技术向善，成为当下急需处理的成绩。
“深度伪造”存风险
2019年国内红极一时的换脸软件“ZAO”就是公众最为熟知的AI运用，用户只需上传一张照片，就能秒变“戏精”，甚至还能与偶像同台飙戏，效果极其逼真。不久前，短视频范畴出现的“蚂蚁呀嘿”热潮，其基础也是深度伪造技术。
“深度伪造”粗浅来讲，就是应用深度学习算法完成音频和视频的模拟和伪造，包括语音模拟、换脸、表情操纵等。仰仗极强的文娱性与传播性，“深度伪造”技术曾一路走红。
但是，在感受“深度伪造”技术带来的科技感时，其背后的危害却不容小觑。
当前，“深度伪造”的技术门槛正大幅降低，网络上充斥着大量伪造教程和开源可用的计算机程序。即便是不具有专业算法才能的普通用户，也可以在很短工夫内轻松上手。尤其依托深度学习算法特性，在海量图像和视频数据的驱动下，深度合成技术不断演进迭代，仿真精度不断得到提升。这也意味着，假如不对“深度伪造”这一技术停止及时规制，将对经济社会发展带来严重的潜在要挟。
此外，公众财产安全也将遭到要挟。当下一些不法分子可以应用智能终端的安全破绽劫持手机辨认摄像头，应用照片活化、表情操纵等深度伪造技术冒充机主，进而对机主的微信好友实行转账诈骗。异样的，电信诈骗中也有相似应用“语音伪造”技术的案例。
不只如此，“深度伪造”还会对社会安全和国家安全形成要挟。网络内容监管的复杂性给依托“深度伪造”技术捏造虚伪旧事得以分布的空间。在病毒式传播的深度伪造的背后，能够蕴藏着操纵社会言论、激化社会矛盾与扰乱正常社会经济次序等系统性的危害，严重影响公众治安和网络安全。
“在公安机关、司法机关的图像鉴别工作中，深度伪造技术的出现将导致举证工作存在风险。”北京瑞莱智慧科技有限公司首席执行官田天以为，“深度伪造技术也能够成为国家之间发起虚伪信息和平的最新武器，争光政治人物、伪造政治制度和毁坏国家间关系，甚至在将来军事战场上损毁特定军事或情报举动。在这种背景下，国内外政府高度注重，都出台了相关的监管制度。”
可见，“深度伪造”等各类安全成绩亟待处理。为此，北京瑞莱智慧科技有限公司于7月9日，在2021WAIC世界人工智能大会上发布了基于第三代人工智能的DeepReal深度伪造内容检测平台，旨在依托工业级检测功能，疾速、精准地对多种格式与质量的图像停止真伪鉴别，为遏制和防备“深度伪造”技术的大规模滥用提供有效技术支撑。
守住技术运用底线
北京瑞莱智慧科技有限公司副总裁唐家渝以为，“深度伪造”技术持续退化，网络数字内容多变、藏匿性强，监管难度大，因此展开自动技术防备与检测工作是必要的。面对深度伪造技术检测工作难的困局，唐家渝称，在结果准确度方面，DeepReal在学术数据集和ZAO等主流方式生成的网络数据集中，已达到99%以上的准确率。在检测速度方面，DeepReal可完成每帧画面的检测工夫仅用时30毫秒，检测准确度与检测效率达到业内顶尖程度。
中科院院士、清华大学人工智能研讨院院长、北京瑞莱智慧科技有限公司首席迷信家张钹教授曾提出“第三代人工智能”的概念，也就是安全、牢靠、可信和可扩展的人工智能。安全性曾经成为下一阶段人工智能发展必须的基础。深度伪造是目后人工智能运用不安全的典型成绩，DeepReal平台的提出是一项很好的技术应对。
清华大学教授朱军则表示，实网环境中的伪造视频不断变化，需求有强对抗的手腕加以遏制，最好的方法就是用AI来检测恶意AI。在检测效果上，不只要支持高准确率与高效率，还需求具有可解释性，让检测结果牢靠、可服气，此外要可以疾速即时应对新型的深度伪造类型，DeepReal平台经过应用贝叶斯深度学习方法和小样本增量学习的方法很好的满足了这两点。
理想上，DeepReal平台在防备深度伪造技术上曾经小有成就。例如，瑞莱智慧RealAI团队在国际安全极客大赛 GeekPwn 2020 首届 CAAD 虚伪人脸 AI 辨认大赛上，以相对比分优势夺得冠军；在网信办与公安部共同指点的第二届“中国人工智能·多媒体信息辨认技术大赛”中，斩获“创新之星”奖以及深伪检测竞赛A类奖。此外，DeepReal在深伪相关范畴也已发表顶级会议和期刊论文数十余篇。
下一步，瑞莱智慧RealAI还在持续发力，并且与工信部、公安部等监管部门、科研机构、实战部门展开合作，共建深度伪造管理生态。
唐家渝表示，展开自动技术检测评价工作是防备深度伪造技术作恶的必由之路。将来，DeepReal检测平台将在网络虚伪内容鉴别、人脸材料审核以及影像物证真实性检验等实践运用场景中发挥弱小作用，瑞莱智慧RealAI也将持续迭代技术、打磨产品，和相关单位一同，竭尽全力，确保在这场深度伪造的“攻防战”中保持一直立于不败之地。

作者: 无语8了 时间: 2021-7-14 07:17
楼猪V5啊

作者: wei4832347 时间: 2021-7-14 21:36
OMG！介是啥东东！！！

作者: 张凯慧眼识君子 时间: 2021-7-15 20:18
厉害啊！

欢迎光临智客公社 (https://bbs.cnaiplus.com/)