智客公社

标题: 老王小山探峰会｜记者大叔秒变帅哥美女？人工智能时代，你担心自己的脸吗？ [打印本页]

作者: 周无衣 时间: 2022-11-12 12:15
标题: 老王小山探峰会｜记者大叔秒变帅哥美女？人工智能时代，你担心自己的脸吗？
钱江晚报·小时新闻记者王燕平张云山

今天上午，2022世界互联网大会“互联网之光”博览会正式开展。在北京瑞莱智慧科技有限公司展位前，记者体验了一回秒变帅哥美女。

小时新闻记者面对摄像头，点击“采集人脸”，然后选择了一位洋帅哥的头像，再点击“更换人脸”，屏幕上就变成洋帅哥在讲话。选择一位美女头像，再点击“更换人脸”，屏幕上就变成美女在讲话，声音也变成女声。

“这背后采用的是深度合成技术，利用深度学习、虚拟现实等生成合成类算法，制作图像、音频、视频等信息。深度合成技术能够升级传统内容制作方法，提升内容制作效率和质量，目前影视剧中的本地化配音、数字替身等新场景会用到这一技术，比如一位演员不小心受伤无法出镜的情况下，为了不影响拍片进度，就可以使用AI换脸开发数字替身。”瑞莱智慧工作人员介绍说。

但这项技术也同样存在着安全隐患。深度合成技术大大降低了信息造假的难度，只需要拿到一张照片，就能生成非常逼真的伪造视频，因此可能用于捏造虚假信息、影像资料造假等。

而且这项技术还可能被黑产分子用于新型诈骗。瑞莱智慧工作人员介绍道，黑客能够利用“AI换脸”破解线上银行的人脸核验系统，通过表情操纵让照片做出“张嘴、眨眼、摇头”等指令性动作，再让智能设备不启动摄像头，直接底层注入合成的动态人脸视频，从而破解人脸识别。据了解，目前这一方式被不法分子广泛用于盗刷银行卡、非法办理手机卡等诈骗场景。

为了避免换脸技术的大规模滥用，瑞莱智慧推出了深度伪造内容检测平台DeepReal，通过辨识伪造内容和真实内容的表征差异性、挖掘不同生成途径的深度伪造内容一致性特征，能够快速、精准地对图像、视频、音频内容进行真伪鉴别，有效打击财产诈骗、虚假宣传、证据造假等违法行为。据介绍，DeepReal平台基于千万级训练数据，能够实现毫秒级检测速率，每帧画面检测时间仅需30毫秒，同时在主流数据集检测准确率达99%以上，在实际产业中检测准确率也达到业界顶尖水平。

人工智能时代的安全漏洞远不止这些。比如说，视频监控系统可及时捕捉人体活动轨迹，但穿上一件印有特殊花纹的服装，人体就可以在视频监控前“隐身”。还有，你的人脸被采集后，有人只要戴上一副特殊的眼镜，就可以冒充你的人脸，你可能面临隐私泄露、财产损失等安全风险。

据介绍，瑞莱智慧依托清华大学人工智能研究院发起设立，致力于发展安全、可信、可靠、可扩展的第三代人工智能技术，提供人脸识别系统安全、深度合成和伪造检测等产品服务。“我们探索AI创新应用的同时，聚焦新型安全风险，利用技术创新、技术对抗等方式，持续提升和迭代安全检测能力，致力于推动人工智能产业高质量发展。”瑞莱智慧工作人员介绍。

本文为钱江晚报原创作品，未经许可，禁止转载、复制、摘编、改写及进行网络传播等一切作品版权使用行为，否则本报将循司法途径追究侵权人的法律责任。

欢迎光临智客公社 (http://bbs.cnaiplus.com/)