作为引领第四次科技革命的战略性技术的人工智能正在出现新的变化。一方面，给经济和社会发展带来深远影响，催生了科大讯飞等千亿级别市值的企业；另一方面数据隐私、技术滥用等伴生安全成绩如影随形。从最新举行的上海世界人工智能大会来看，不少业内人士以为，全体来看，人工智能产业正进入高质量发展阶段，但以深度伪造为代表各类安全成绩也亟待处理，安全攻防战正在打响。
往年3月，有犯罪分子应用深度伪造技术，合成某公司CEO的声响诈骗22万欧元，这也成为“深度伪造”的典型负面案例。中国信通院相关人士对记者分析说，与传统图像视频处理技术相比，深度伪造技术具有门槛低、效率高、质量好的特点，被探求用于影视、医疗、虚拟理想等商业场景。但是，从理想状况来看，与正面效应相比，这些特性放大的潜在要挟和安全隐患更受关注。
“当前，深度伪造的技术门槛正大幅降低，网络上充斥着大量伪造教程和开源可用的计算机程序，即便是不具有专业算法才能的普通用户，也可以在很短工夫内轻松上手。尤其依托深度学习算法特性，在海量图像和视频数据的驱动下，深度合成技术不断演进迭代，仿真精度不断得到提升。所以，制造一段高逼真度的虚伪音视频成本极低，却可以借助社交媒体等平台短工夫风靡互联网。”前述人士指出。
按照市场人士的总结，深度伪造潜在要挟至少体如今三个层面，包括损害个人声誉、公众财产安全、社会安全等。北京瑞莱智慧科技有限公司首席执行官田天对**记者举例说，以公安司法机关的图像鉴别为例，深度伪造技术的出现将能够导致举证工作存在风险，还能够被用于争光政治人物和伪造政治制度，甚至能够成为国家之间发起虚伪信息和平的最新武器。
根据记者梳理，为防备深度伪造技术所形成的危害，全球各国政府积极推进立法管制。从我国来看，包括《网络音视频信息服务管理规定》、《民法典》在内，都在加强对相关风险的管控。往年3月，针对部分语音社交软件和涉“深度伪造”技术的运用未实行安全评价程序，相关部门还约谈了11家企业，督促其仔细展开安全评价，完善风险防控机制和措施。不同于以往的预先监管，此次安全评价工作和约谈给有关的互联网新技术新运用提早划“红线”，“事前规制”有利于企业及时发现安全隐患。
前述信通院人士引见，关于人工智能安全性的担忧，一方面需求依托法律法规和政府监管来约束，另一方面，需求从源头加强安全评价，提升鉴别技术等才能，借助技术手腕提早规划。
田天也对记者表示，以深度伪造为代表的安全成绩，正是目后人工智能产业当前所面临的瓶颈。人工智能产业正派历从高速增长向高质量发展的转变，一方面产业等待进一步提升，金融、医疗等更复杂的高价值场景的运用需求不断添加，智能化场景从单一感知向多元认知发展；另一方面，各种安全成绩的迸发，要求在追求功能效率的同时关注安全性的提升与保障。
中科院院士、清华大学人工智能研讨院院长、北京瑞莱智慧科技有限公司首席迷信家张钹提出了“第三代人工智能”的概念，也就是安全、牢靠、可信及可扩展的人工智能。安全性将成为下一阶段人工智能发展必须的基础。记者留意到，在深度伪造攻防战中，部分商业化产品曾经落地。在上海世界人工智能大会上，瑞莱智慧发布了基于第三代人工智能的DeepReal深度伪造内容检测平台。材料显示，该平台具有工业级检测功能，可以疾速、精准地对多种格式与质量的图像停止真伪鉴别，为遏制和防备深度伪造技术的大规模滥用提供技术支撑。
深度伪造技术检测工作面临诸多难点，北京瑞莱智慧科技有限公司副总裁唐家渝对记者分析说，一是肉眼难以辨别，传统人工内容审核团队无法应对，二是深度伪造检测面临“强对抗性”，新型伪造方法层出不穷、网络传播环境复杂、算法模型存在结构性缺陷等。因此他建议，首先相关部门需求设立专业技术检测团队，其次检测工作需遵守动态平衡机制，技术才能需不断晋级迭代。“展开自动技术检测工作是防备深度伪造技术作恶的必由之路。将来还需求持续迭代技术、打磨产品，确保在深度伪造的攻防战中取胜。” |
