发展安全的人工智能已成全球共识

　　近日,以“智联世界 元生无界”为主题的2022世界人工智能大会在沪举办。人工智能似乎已经成为无远弗届、无所不能的泛在赋能技术，人工智能治理建设成为会议的重要议题。随后于9月15日闭幕的2022全球人工智能峰会更以“人工智能促进人类福祉”为主题，通过了《利雅得人工智能行动宣言》，强调防止人工智能被不道德地应用。发展可靠、可信、安全的人工智能已成为全球的共识。

　　中国人工智能创新水平不断提升

　　首次亮相世界人工智能大会的元宇宙当仁不让地成为“主角”：一众个性鲜明的数字人虚拟偶像以不同的方式欢迎参会来宾，机器人现场制作自选口味的咖啡。与此同时，消费者可以选择在不同的场景下制作和享用它，在森林里、在海边……元宇宙正在从想象变为现实。
　　如同信号弹，元宇宙激活各行业敏锐的触觉，很多企业争相布局新赛道。《消费元宇宙开启下一个消费时代》白皮书显示，截至2022年3月，全国“元宇宙”概念相关企业共计1532 家，其中2021年新成立的企业711家。普华永道预计，2030年元宇宙市场规模将达到1.5万亿美元；摩根士丹利预计，未来元宇宙潜在市场空间将超8万亿美元。元宇宙可以带动万亿级软件产业集群和数字经济创新发展，这已经成为业界人士的共识。上海更是国内首个将元宇宙写入“十四五”规划的城市，将其明确为四大“新赛道”之一，并着手培育发展相关产业。今年6月推出特色产业园区，7月发布《上海市培育“元宇宙”新赛道行动方案》。目前，在张江科学城内，一条以元宇宙生态为核心，“算、端、创、用”协同推进的“张江数链”已悄然形成。
　　全球人工智能发展呈现中美两国引领、主要国家激烈竞争的总体格局。在此次世界人工智能大会治理论坛上，中国科学技术信息研究所研制的《2021全球人工智能创新指数报告》显示，中国人工智能创新水平已经进入世界第一梯队，创新指数连续两年排名第二；总得分上，与美国的分差进一步缩减。中国科学技术信息研究所所长赵志耘表示，中国人工智能发展迅速，综合实力不断提升，表现为开源项目影响力明显提升。2021年，中国的人工智能开源代码量达到158项，相比2020年的139项有所增长。全球TOP500超算中心数量连年保持首位。
　　人工智能加速赋能实体经济。华为打造5G智慧煤矿，在晋能控股集团塔山煤矿，智能巡检机器人往来探视；腾讯与富驰高科合作AI质检项目，一年能为企业节省人力成本数千万元；果农可以通过网商银行“大山雀”卫星遥感风控技术，解析卫星图片并预测产量，从而很快获得贷款；微创图迈腔镜手术机器人连接横跨近5000公里的新疆克州和江苏南京，顺利完成了三例泌尿外科超远程手术，实现了迄今为止世界上最远距离的5G远程机器人手术……
　　上海期智研究院院长、图灵奖得主姚期智在本届人工智能大会接受采访时表示：“为了人工智能将来的发展，我们必须在基础研究上做大量工作。建设人工智能创新高地，就是要在制高点议题上，取得话语权。在关键技术上，中国即便现阶段相对不足，也要尽力追赶，争取早日进入世界前列。在新兴理论与技术方向，大家都在同一起跑线上，应该争取先机，和全球并跑。”

　　人工智能技术发展面临全方位挑战

　　人工智能已渗透我们日常生活的方方面面，其强大力量正在不断地改变与塑造着社会。我们在享受其便利的同时，也身不由己地被卷入技术的操控之中。人工智能技术的达摩克利斯之剑已隐现于我们的头顶。
　　我们在使用技术的同时，技术也在改变我们自身。我们习惯了GPS定位，方位感就可能退化；习惯了使用搜索引擎，记忆力就可能下降；习惯了信息的推送，视野和思维会越来越狭窄……法国哲学家贝尔纳·斯蒂格勒对此一针见血：“这种智能一旦变成了人工的，也会产生一种人工愚蠢：由此生成的人工制品，也就是药，就会导致退化和自毁。”对此，德国波恩大学教授马库斯·加布里尔认为，人工智能时代真正的危险是人类对于自我的误解和人类自由的丧失——逃避自我理解的难题，把自己的生活完全出让给一种订置状态。正如北京大学教授陈嘉映所强调：“我们更应该关心我们已有的东西，更恰当地理解我们已有的东西。比如，通过对人工智能的了解，更恰当地理解人类自己的智能。”也就是说，如果不对人工智能保持反思与警醒，人类会变得越来越适应机器，人性会越来越机器化。
　　人工智能给现实世界带来的安全挑战不容忽视，小至社会，大至国家关系。面对世界各主要经济体在人工智能领域竞争激烈的局面，华东师范大学教授潘斌在接受本报记者采访时表示：“基于算法垄断、数字特权与代码霸权的优势国家可能会无视求同存异、和睦共生的原则，反以人工智能为工具寻求支配地位与霸权统治，建立一个新的数字化殖民地与数字化帝国，这是人工智能所造就的新帝国主义，或者说人工智能进一步揭示了全球不平等问题。”中国社会科学院研究员赵汀阳抱持同样的看法，他撰文指出，技术的本质是能力，能力越大，其博弈均衡点就对技术掌权者越有利……给定人性不变，文明的人工智能化就非常可能导致文明的重新野蛮化。在这里，“野蛮化”是指社会关系恶化为强权，即真理的丛林状态。可见，不加规约的人工智能技术可能导致人类不平等的加剧。（社会科学报社融媒体“思想工坊”出品 全文见社会科学报及官方网站）