颠覆人类社会的AI应如何治理？来看“最强大脑”怎么论｜科技圆桌派

论坛现场。（主办方供图）

封面新闻记者 边雪 张峥 谭羽清 马晓玉

当全世界在为AI撼动人类社会而狂欢时，站在AI技术前沿的“最强大脑”们，已经开始警惕起AI变革背后的滥用、威胁与挑战了。

10月26日，顶尖科学家论坛永久会址外下起大雨，会场内，2024世界顶尖科学家智能科学大会，座无虚席。

众多知名学者、科技从业者、高校学生如期而至，以期对“人工智能（AI）在技术快速发展背景下，将如何影响社会”有更深刻的了解。

“我早上七点半就出门来赶来论坛了，比上学起得早。”会场间隙，上海某中学学生吴萌（化名）告诉封面新闻记者，因为平常对AI相关产品和技术发展就很感兴趣，所以趁着周末想来听听人工智能行业最顶尖的科学家，是怎么看待AI发展的。

AI发展将怎样影响人类社会？在中国科学院院士、北京科学智能研究院院长、北京大学国际机器学习研究中心主任鄂维南的提问下，来自国内外的人工智能领域顶尖科学家，围绕AI发展的伦理责任、全球合作和技术监管等多层次话题展开了一场“头脑风暴”，并就如何推动AI的伦理使用及可持续发展，确保科技进步与社会福祉之间的平衡进行讨论。

人工智能在解决还是放大社会问题？

“AI正在重塑劳动市场，改变人们的工作方式和生产力。”2010年诺贝尔经济学奖获得者、伦敦政治经济学院（LSE）经济学钦定教授克里斯托弗·皮萨里德斯（Christopher PISSARIDES）指出，劳动力市场上，我们十分关心人工智能给工作带来的变化，以及人们看待工作、绩效、生产力的方式，“AI的发展将对工作性质产生深远影响，尤其是在职场满意度和生产效率方面。”

如何使AI既能够提高生产力，又能为劳动者带来工作乐趣，是一个重要的社会议题。克里斯托弗强调，AI的引入带来了双重挑战：既要提升员工的工作成就感，又要防止技术取代人类工作带来的不良后果。

“AI是一种社会技术系统，许多AI的决策不可避免地涉及社会其他学科的问题。”2024世界顶尖科学家协会奖“智能科学或数学奖”得主、康奈尔大学计算机科学和信息科学讲席教授乔恩·克莱因伯格（Jon KLEINBERG）指出，AI技术在某种程度上能够放大现有的社会问题，甚至成为对这些问题的“诊断工具”，帮助人们以更精确的方式认识和应对复杂的社会问题。克莱因伯格认为，AI的风险和机遇并存，决策者需要平衡长远的社会影响与当前的技术风险。

作为一个方兴未艾的领域，AI与其他技术领域一样，也需要持续不断地监测和事后纠错。这也与克莱因伯格本次因“在算法公平性领域发挥的智识领导力”的获奖理由不谋而合。

“AI发展的短期和长期的问题都不容忽视，尤其是在目前复杂多变的技术和政治环境下，必须防止AI技术被不良意图利用。”乔恩直言，AI技术的发展，既有可能提供更精确的分析工具，也可能引发社会不公，因此AI的应用应该时刻以人为本，关注社会的整体福祉。



论坛现场。（封面新闻记者边雪 拍摄）

AI治理与监管将何去何从？

“全球AI治理需要一个高效的框架，但治理并不等同于单一的监管。”先进计算与关键软件(信创)海河实验室主任、中国新一代人工智能发展战略研究院执行院长龚克表示，监管的目标是防止负面影响，而治理的更广泛目标是促进AI技术对人类和地球的正面贡献。

“前几天，一位14岁少年不幸成为人工智能发展的牺牲品，这个少年因沉迷于人工智能聊天机器人而自杀，而推出这款聊天机器人的公司，也被其母亲认为要对孩子的死负主要责任。”龚克表示，如今世界上有几百个由政府、国际组织，或是知名国际会议发表的治理框架或者宣言，可它们并不完善，在协调和执行上存在不小的问题。

“AI的发展必须要安全、可靠、值得信赖。”龚克直言，未来，需要建立一个全面的治理体系，既能管理风险，也能支持AI的创新发展，以确保AI技术的发展符合人类社会的长远利益。

论坛上，各位科学家还针对不同国家在AI监管方面的路径选择及其优缺点进行了讨论，分析了欧洲、美国和中国的不同策略：欧洲的高标准技术监管模式虽然可以确保安全性，但可能对AI创新造成一定的阻碍；美国采取更为灵活的监管模式，可能导致责任划分模糊的风险。封面新闻记者注意到，与会者普遍认为，AI治理应该兼顾技术标准和伦理限制，平衡安全与创新需求。

AI向善离不开全球合作

“目前是定义人工通用智能（AGI）和人工超级智能（ASI）的最佳时机。”清华大学计算机系副系主任唐杰教授在讨论中提到，明确这些概念，有助于建立符合安全性和伦理需求的技术框架。他进一步指出，AI技术应在教育、工程和技术培训领域广泛推广，为社会注入创新动力的同时，确保技术发展与社会需求相吻合。

2015年图灵奖得主、斯坦福大学电子工程系名誉教授马丁·赫尔曼（Martin HELLMAN），则更关注科技发展在国家竞争与全球合作中的角色。他指出，科学技术的迅速传播使得一国的科技成果往往被其他国家快速复制，国际间的合作显得尤为重要。“然而当前的全球形势是，各国普遍将科技主导地位视为政治和经济优势的重要标志，导致竞争愈发激烈。”对此，赫尔曼呼吁各国在AI等新兴科技领域中寻求合作，以避免潜在的全球性冲突。

“核武器的发展是重要教训，AI的发展各国更应吸取类似的教训。”赫尔曼还认为，如果各国能在科技领域携手合作，不仅可以推动人类的共同进步，还可以为后代创造一个安全、和谐的未来。