请选择 进入手机版 | 继续访问电脑版
 找回密码
 立即注册
搜索

在“刹车”“油门”之间,人工智能发展如何寻求平衡

当前,以人工智能为代表的新技术应用,正在成为发展新质生产力的重要引擎,畅通数据大循环也成为赋能高质量发展的新动能。在发展中规范,在规范中发展。如同很多新技术一样,人工智能在促进发展和监管规范之间,如何踩好“刹车”,又加大“油门”?

中关村论坛论坛永久会址外景

既要做好创新与保护,又要加强互信

“在人工智能发展的背景下,数据愈发重要。在数据处理方面,如何在差异化中找到契合点,在保护与创新之间取得平衡。”在2024中关村论坛期间举办的数据安全治理与发展论坛上,新加坡资讯通信媒体发展局局长柳俊泓这样说。

一方面是公共利益,另一方面是创新发展。在柳俊泓看来,以数据分析为例,许多国家尽管门槛、规模有所不同,但多数顶层设计的核心都有相似的处理方式。一是用户授权同意是使用个人数据的重要环节;二是数据机制明确了数据不可用的领域,这是出于敏感性或安全性的考量;三是要建立协调机制,通过标准合同条款进行协调,有助于推动全球一致性。

以新加坡实施的《东盟跨境数据流动示范合同条款》为例,柳俊泓介绍,该条款用来支撑东盟内部的数据传输,对标欧盟标准合同条款,在今年还发布了联合实施指南,为企业提供了更清晰的指引,维护各国、各企业以及消费者的利益,也让数据发挥其经济价值。此外,数据安全永远是核心问题,同态加密、多方安全计算等隐私增强技术,让企业能够从消费者数据中获得价值,也确保消费者数据得到保护,“通过促进数据共享,帮助企业生成有助益的商业洞察,这是一个关键因素”。

此外,柳俊泓认为,应当提供“政策沙盒”,也就是实验环境,最大化的使用数据,同时保障数据安全;并建立人工智能验证系统基金会,让参与其中的企业和个人都可以为构建系统开源作贡献。

“最重要的是如何建立和加强互信。”柳俊泓表示,随着全球生态系统的发展,需要采取切实步骤来建立信任。首先,要真正聚焦科技以及共性的人工智能测试方法,让决策者与学者都能参与其中;其次,要平衡好保护和创新的关系,人工智能凸显了数据的重要性,在创造全球性治理框架的同时,建立互信是最重要的因素。



中关村论坛参展商为观众们提供AICG摄影功能体验



人工智能深入到衣食住行各个领域,中关村论坛上无人驾驶巴士提供摆渡服务

数据治理生态须“安全可信”

“什么是大数据?不是数据海量!”中国工程院院士沈昌祥做了这样的解释——大数据是无法用现有软件工具进行处理的海量复杂数据集合,既是“废料”又是“矿山”,必须进行全过程开采,形成新型的产业链、供应链。

在万物互联的数字智能时代,网络安全防护技术不断升级迭代,可信计算逐步成为安全领域的主流技术之一。经过长期技术攻关,我国已形成自主创新的主动免疫可信体系。

“安全不是防火墙杀病毒,有病毒、有黑客、有漏洞,其实不是这些表面现象,根本问题、实质原因在于缺少攻防理念。因此,必须认识到安全是永远的命题,要做到‘安全可信’。”沈昌祥认为,做到全程管控,要达到“六个不”效果——

也就是让攻击者“进不去”,进去了也“拿不到”,即使拿到了东西也是白拿,因为加密了他们“看不懂”并且无法篡改。此外,设备“瘫不成”,如同人的器官会生病,设备也避免不了有故障,但免疫系统及时发现病灶、发现故障,采取措施不会造成严重后果。最后是“赖不掉”,如果不可信是可以篡改的,可信以后便无法修改。

“达到这‘六个不’,才能使得数据安全治理达到有效目标。经过三十多年的发展,我们已经形成完整的产业链,构成比较完整的新型产业空间。”沈昌祥说。

技术“向善、不作恶”已成为基本共识

随着人工智能大模型不断迭代升级,性能优化的同时,也放大了安全风险,引发了价值偏见、隐私泄露、虚假信息等问题。“人工智能不发展,或者说发展不起来,是最大的不安全。”欧洲科学院院士、清华大学人工智能研究院常务副院长孙茂松表示,由于生成式人工智能的特点,确实存在一些不安全因素,治理是必须的,水不能太浑,但水至清则无鱼。因此,需要比较高超的治理技术。

人工智能“向善”“不作恶”,已经成为业界的基本原则。孙茂松认为,在具体善、恶方面,可能大家在认识上有或多或少的不同,但总的来说,可以形成基本共识。比如,生成式人工智能可以大量产生数据,也可以成为安全治理的更有效手段。

近年来,全球范围内各国纷纷出台涉及人工智能的立法和政策。英国皇家工程院院士、欧洲科学院院士、香港工程科学院院士、香港科技大学首席副校长郭毅可介绍,多数国家在制定相关法规时,都采取了谨慎的态度,避免过度限制人工智能的发展,以免阻碍创新和进步,这彰显了国际社会对数据安全治理的重视。“一些国家采取了专门的法律和法规,来覆盖人工智能发展和应用中涉及的广泛问题;另外一些国家则采取了针对不同应用或类型的人工智能,制定了各种规章制度的策略。”

事实上,数据安全治理是人工智能和数字转型中不断演进的议题,需要在保护数据隐私和敏感信息的同时,建立国际机构框架和法规来规范数据安全。对此,郭毅可表示,为了应对不断变化的数据安全形势,国际合作和经验分享至关重要。比如,区块链、量子密码学等前沿技术发展,为数据安全解决方案提供了良好的策略,最终通过建立健全法规,形成了加强国际合作的最佳实践。(文/图 记者 李政葳 曾震宇 刘昊)



来源: 光明网

本帖子中包含更多资源

您需要 登录 才可以下载或查看,没有帐号?立即注册

x
回复

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册