请选择 进入手机版 | 继续访问电脑版
 找回密码
 立即注册
搜索

老王小山探峰会|记者大叔秒变帅哥美女?人工智能时代,你担心自己的脸吗?

钱江晚报·小时新闻记者 王燕平 张云山

今天上午,2022世界互联网大会“互联网之光”博览会正式开展。在北京瑞莱智慧科技有限公司展位前,记者体验了一回秒变帅哥美女。

小时新闻记者面对摄像头,点击“采集人脸”,然后选择了一位洋帅哥的头像,再点击“更换人脸”,屏幕上就变成洋帅哥在讲话。选择一位美女头像,再点击“更换人脸”,屏幕上就变成美女在讲话,声音也变成女声。

“这背后采用的是深度合成技术,利用深度学习、虚拟现实等生成合成类算法,制作图像、音频、视频等信息。深度合成技术能够升级传统内容制作方法,提升内容制作效率和质量,目前影视剧中的本地化配音、数字替身等新场景会用到这一技术,比如一位演员不小心受伤无法出镜的情况下,为了不影响拍片进度,就可以使用AI换脸开发数字替身。”瑞莱智慧工作人员介绍说。

但这项技术也同样存在着安全隐患。深度合成技术大大降低了信息造假的难度,只需要拿到一张照片,就能生成非常逼真的伪造视频,因此可能用于捏造虚假信息、影像资料造假等。

而且这项技术还可能被黑产分子用于新型诈骗。瑞莱智慧工作人员介绍道,黑客能够利用“AI换脸”破解线上银行的人脸核验系统,通过表情操纵让照片做出“张嘴、眨眼、摇头”等指令性动作,再让智能设备不启动摄像头,直接底层注入合成的动态人脸视频,从而破解人脸识别。据了解,目前这一方式被不法分子广泛用于盗刷银行卡、非法办理手机卡等诈骗场景。

为了避免换脸技术的大规模滥用,瑞莱智慧推出了深度伪造内容检测平台DeepReal,通过辨识伪造内容和真实内容的表征差异性、挖掘不同生成途径的深度伪造内容一致性特征,能够快速、精准地对图像、视频、音频内容进行真伪鉴别,有效打击财产诈骗、虚假宣传、证据造假等违法行为。据介绍,DeepReal平台基于千万级训练数据,能够实现毫秒级检测速率,每帧画面检测时间仅需30毫秒,同时在主流数据集检测准确率达99%以上,在实际产业中检测准确率也达到业界顶尖水平。

人工智能时代的安全漏洞远不止这些。比如说,视频监控系统可及时捕捉人体活动轨迹,但穿上一件印有特殊花纹的服装,人体就可以在视频监控前“隐身”。还有,你的人脸被采集后,有人只要戴上一副特殊的眼镜,就可以冒充你的人脸,你可能面临隐私泄露、财产损失等安全风险。

据介绍,瑞莱智慧依托清华大学人工智能研究院发起设立,致力于发展安全、可信、可靠、可扩展的第三代人工智能技术,提供人脸识别系统安全、深度合成和伪造检测等产品服务。“我们探索AI创新应用的同时,聚焦新型安全风险,利用技术创新、技术对抗等方式,持续提升和迭代安全检测能力,致力于推动人工智能产业高质量发展。”瑞莱智慧工作人员介绍。

本文为钱江晚报原创作品,未经许可,禁止转载、复制、摘编、改写及进行网络传播等一切作品版权使用行为,否则本报将循司法途径追究侵权人的法律责任。
回复

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册