表现向善价值，给AI安一颗“良芯”，世界人工智能大会发出了这项举动建议

何积丰院士在WAIC管实际坛上做报告

人工智能（AI）正在不断“嵌入”人类社会：交通出行、住房家居、教育医疗、养老助残、文明体育……越来越丰富的运用场景也让人们对AI管理提出了迫切需求。在明天下午举行的2020世界人工智能大会云端峰会人工智能管实际坛上，针对人工智能应该如何“负起社会责任”这一话题，国内外30多位专家从技术、伦理、法律等不同角度停止讨论，倡议社会各方引导AI表现向善价值，“给AI安一颗‘良芯’”。

深度融入社会，AI必须“负起责任”

人工智能需求对社会“担任”吗？在不少人的看法中，AI仅仅是一种工具，但在专家看来，它必须“负起责任”。

图灵奖获得者、中国迷信院外籍院士约翰·霍普克劳伏特在报告收场就提出，迄今为止，计算机决策规则不断是与人类决策分歧的，但将来，计算机将根据从训练数据中得来的阅历停止决策，“这是AI的本质，将对人类将来产生严重影响”。他举了一个极端的例子：有人违章横穿马路时被撞身亡，假使我们向AI要处理方案，它能够会建议我们直接拆除公路。

随着AI的普及，大量社会成绩也将浮现，比如算法“黑箱”带来的歧视与成见、AI自动驾驶错误而引发的交通事故等。假如这些判别来自人类，在法律上很容易认定责任主体，但是如今，人们首先要问的是：“AI能担任吗？”

王国豫在论坛报告中提出“AI可以担任”

针对这一成绩，复旦大学运用伦理学研讨中心主任王国豫以为，AI产品可以完成一定的功能，因此可以承担一定的功能责任，但无法承担道德责任，道德责任只要人才能承担。因此担任任的人工智能是能够的，但它是以担任任的人、担任任的行为为前提的。

“担任任的AI，才是可持续发展的AI。”作为人工智能范畴的创业者和技术从业者，旷视科技结合创始人兼首席执行官印奇以为，AI管理对于产业落地的意义非常深远——人工智能就像火之于人类文明，假如善待并加以合理应用，将可推进文明进程；假如运用不当，则能够引发灾难。

印奇引见旷世科技对人工智能管理的探求

去年，旷世科技在企业外部成立了本人的人工智能管理委员会，并提出AI技术要“既问胜负，也问对错”的准绳。比如，一种技术无论多么成熟、商业价值有多高，但假如有悖伦理、法律、社会风俗，企业就应选择不去研发，也不将其运用于产品中。

有“良芯”的AI需求技术环境共同驱动

一个AI智能体能够会面临许多责任拷问，比如它终究对企业担任，还是对社会担任？很显然，人类必须给AI安一颗“良芯”，表现其向善价值。而要处理AI发展带来的道德伦理、隐私保护、安全风险等成绩，需求技术与环境的共同努力。

只需对图像、音频、文本稍加干扰，就能让机器产生误判；后门技术也可消费虚伪旧事、音频、视频……复旦大学计算机科技学院院长姜育刚在论坛上引见了他的团队攻破这些AI伪造术上的一些方法：只需加入一个不起眼的小模型，就可使抗干扰成功率达到80%左右。在他看来，“攻防永远都是一对博弈和互促的技术，技术将会在AI管理中发挥极为重要的作用。”

在论坛报告中，从事可信人工智能研讨的中国迷信院院士何积丰提出，从技术源头建立起规范，让AI算法本身就具有安全、可信的素质，显得尤为重要。从技术角度，他将AI风险总结为数据安全和模型安全两大类成绩。但是，如今不少人工智能安全技术还缺乏实际工具的支撑。他希望有更多年轻人投身这一范畴，为夯实AI管理的基础贡献智慧。

理想上，AI不只仅是一个技术系统，而是与人类社会经济系统、政治系统、文明系统等多维度情境结合在一同的。结合国人工智能和机器人中心主任伊拉克里·贝里泽泄漏，目前，全球执法机构均已将AI运用到各个范畴，但在执法过程中会产生许多“边缘案例”。因此，要想真正应用好AI的力气，必须努力确保在遵照准绳和国际法律的状况下担任任地运用。

近年来，全球正在就推进人与机器的和谐共生逐渐达成共识。在我国，国家新一代人工智能管理专业委员会去年发布了以“发展担任任的人工智能”为主题的管理准绳。此次论坛上，上海国家新一代人工智能创新发展实验区专家咨询委员会发布了“协同落实人工智能管理准绳的举动建议”。这是国内初次提出的系统落实AI管理准绳的综合举动方案，将为进一步推进AI管理提供参考。

作者：许琦敏图片：WAIC管实际坛组委会提供责任编辑：任荃