我国人工智能领域首部“办法+强标”组合拳带来什么影响？专家解读热点问题↓

央视网消息：《人工智能生成合成内容标识办法》从今年9月1日起将正式施行，“标识办法”提出强制添加显式和隐式标识等规范要求，所有AI生成的文字、图片、视频等内容都要“亮明身份”，再也不能偷偷摸摸“以假乱真”了。那么，AI生成合成的内容标识由谁来添加？该怎么添加呢？对那些利用AI工具进行虚假信息传播的“营销号”能起到遏制作用吗？针对这些网友比较关心的问题，我们来听听专家的解读。

据中国人民大学未来法治研究院执行院长张吉豫介绍， “标识办法”明确了相关主体的责任义务，包括服务提供者需在内容生成、传播、下载等环节确保标识完整，互联网应用程序分发平台需审核应用是否合规添加标识，个人用户发布生成内容时需要主动声明。



中国人民大学未来法治研究院执行院长张吉豫称：“《办法》对这样的隐式标识进行了具体细化，特别说明了在目前的技术情况下，至少要对这种文件的元数据进行标识，就是在文件中进行描述的数据，用户看不到，这样隐式标识就不影响用户的使用，又起到了标识重要信息的作用。对于一些比如说可能引起公众的混淆，甚至比较重要的误解的这样的一些重要的内容，就需要去添加显式的标识。”



据张吉豫介绍，针对个人用户借助AI进行文字创作时，如果不存在侵犯个人、企业、社会等主体利益的情况下，用户则不需进行专门的标识。但是，如果借助AI生成的文字内容涉及模仿某人的话语表达、模仿媒体进行新闻发布，或者模仿政府部门发布相关公告等，这些容易让人对客观事实产生误解、混淆的内容，都必须进行显式标识。



张吉豫称：“现在人工智能技术还都在发展，相应的检测风险防范的技术也还在发展之中，所以目前来讲，我们也不能说它是一个终极的办法，只能说其实是在现在的技术条件之下采取的一个考虑到发展应用与安全风险防控相平衡的这样的一种目前阶段比较良好的办法。”

《人工智能生成合成内容标识办法》9月1日起施行 将对行业和个人用户产生哪些影响？

据记者了解，截至2024年12月31日，我国已经有302款生成式人工智能服务在国家网信办完成备案，生成式人工智能产品的用户规模达2.3亿人。那么，“标识办法”的施行会对行业、个人用户以及相关技术的发展带来哪些影响呢？为什么要在半年之后才施行呢？我们继续听听专家的解读。

据专家介绍，在“标识办法”的要求下，标识的存在也会对大规模搬运人工智能直接生成内容的行为进行拦截，让内容平台有了更明确的合规要求和管理程序，有利于降低总体的审核运营成本。



张吉豫称：“对于整个网络空间、数字空间内容的真实性会有更大的促进，也使得自媒体可以利用人工智能技术去使得视频更加出彩，但是不要用它们去制造一些虚假的新闻来博眼球，所以是引导广大的自媒体可以更积极地利用人工智能技术。”

专家介绍，“标识办法”的施行有利于公平竞争和有效管理。首先，强制“标识”有利于保护传统内容产业，能在一定程度上降低AI技术带来的冲击。另外，通过标识可以追溯AI生成内容的来源，减少因AI生成内容引发的侵权、诈骗等问题，维护个人隐私和财产安全。



据记者了解，作为我国人工智能领域首部“办法+强标”的“组合拳”，强制性的国家标准《网络安全技术人工智能生成合成内容标识方法》将于9月1日与《人工智能生成合成内容标识办法》同步施行。



张吉豫称：“因为我们在内容生成方这一点，既需要去进行显著的标识和一些隐性的标识，同时也要为用户提供加入显著标识。同时，因为办法里面也要求了传播平台需要去部署相应的对标识的检测，所以这样的一些技术措施的部署还需要一定的时间准备。”