人工智能大会系列访谈丨惠志斌：人工智能是独一无法试错的技术

看看旧事knews记者 王抒灵 吕心泉 潘凯

2020-07-06 16:53

人工智能技术的飞速发展为消费效率的提高带来了跨越式的改变，但同时也给人类将来引发了一系列应战。其中，人工智能发展最大的成绩，不是技术上的瓶颈，而是人工智能与人类的关系成绩，这催生了人工智能伦理成绩的争议。《银翼杀手》《西部世界》等影视剧中人工智能反抗甚至超越人类的场景能否真的能够出现？我们又将如何有效规制人工智能技术和产业的发展呢？带着这些成绩，看看旧事knews记者专访了上海社会迷信院互联网研讨中心主任、研讨员惠志斌。

看看旧事knews记者：“人工智能发展至今面临了哪些方面的伦理应战？”

惠志斌：“人工智能的技术，是一个变革性的技术，它对整个政治经济社会等各范畴都是全方面的重塑。第一从经济层面来说结构性的失业是一个很大的成绩。智能化的技术会去取代我们的一些简单反复性的休息职业，比如说我们的收银员，比如说我们的流水线上一线工人都会有能够被结构性地替代。第二我觉得从社会层面来说，我们面临着数据隐私方面非常大的应战。我们走在这样一个智慧城市的体系外面，我们是不是需求担心我们的一切的行迹，我们一切做的一些行为都会被无差别地记录上去。第三方面的影响在军事范畴。越来越多的自动化武器系统的产生，会不会就颠覆了我们传统的一些和平形状。第四方面从家庭伦理的角度考量，相似陪护这样机器人的出现，有能够它会对我们的婚姻制度形成严重的应战。”

看看旧事knews记者：“人脸辨认技术的广泛运用引发争议，大家以为在技术提高的同时也侵犯了公民隐私权，就此您如何对待？”

惠志斌：“人脸辨认等等一系列方面的运用，其实很多国家曾经末尾对它停止一些规范，不是说完全不用或者不是说完全放弃这样的一个人脸辨认技术。就是说我们在运用这样的人脸辨认技术的时分，需求思索更多的对公民的隐私权的一些保护，不要停止一些大规模的、无差别的，没有经过用户赞同和授权的，或者是不只仅是公共场所，甚至一些半公共场所，甚至一些触及到比如说我们的有一定的公家范畴里，都停止了这样的人工智能的技术的一种监控，那这个会带来我觉得对一些社会的一些影响。”

看看旧事knews记者：“facebook选择关闭智能对话机器人项目，IBM、亚马逊和微软声明不再向警方提供人脸辨认。您以为这是不是公司为了避免堕入伦理争议而做出的一种放弃？”

惠志斌：“这些技术的创新尤其是在过去的二十年，发展非常之快。但是原来的一些配套性制度、法律，其实相对来说它还是一个滞后的形状，那么在这样的一个滞后形状下很多社会的共识又没有完全构成。在这个过程中很多公司他们也在积极地去尝试，做制度层面的一些探求。我以为这些公司它并不是不运用，并不是完全放弃这个技术。它能够需求去等一等，它需求看到社会对这个技术的接纳或者是顺应的程度终究如何，法律与相关的其他配套性制度有没有逐渐地完善起来。当这些逐渐地完善起来的时分，我置信技术可以更好地发展。这就像两个轮子一样，它需求两个去协调和配套。当一个轮子跑太快的时分那一定是要翻车的，所以一个轮子它在等另一个轮子怎样走下去，怎样让制度建设这个轮子更好地去配合科技产业这个轮子的发展。”

看看旧事knews记者：“伦理成绩的争议能否有能够对人工智能的发展产生影响呢？”

惠志斌：“人工智能这样的一个技术所带来的其实是对传统的一些经济社会形状的严重改变。那在这个外面它必然伴生着一些伦理成绩的产生。这就好像是一个硬币的两个方面，当我们不可以很好地处理这样的伦理成绩，包括法治的、安全的等等一系列的成绩的时分，我们人工智能的产业、技术也有能够遭到限制。它在发展中间也许就会对这个社会形成严重的冲击。当社会无法承受的时分，能够就反向地会去遏制人工智能技术人工智能产业的健康发展。”

看看旧事knews记者：“伦理成绩在人工智能发展过程中的意义是什么？”

惠志斌：“我们都要有一定的共识，到底什么样的人工智能的技术和运用是应该去倡导的，是应该去鼓励的；什么样的人工智能技术我们还需求去看一看，还需求去等一等。我们首先考量它的风险到底有多大，再去看它的技术到底用不用。那在伦理这个层面，我们经过深化讨论，有了更多的共识当前，然后我们才可以愈加精准地去停止一些符合将来发展方向的立法和执法，以及其他配套性的制度建设。所以伦理是基础，是人工智能发展过程中大家共识构成的一个过程。”

看看旧事knews记者：“公众对于人工智能能够摆脱人类控制甚至反噬人类的担忧，您如何对待？”

惠志斌：“目后人工智能总体来说还处于一个弱人工智能时代，在这个阶段外面，我觉得大部分的人工智能产品和技术还是相对可控的。但是随着技术的发展，人工智能必然向着强者工智能或者是通用人工智能的时代去演进，但在这个过程中间，我们还是需求去高度警觉。由于人工智能能够是人类有史以来独一无法试错的这样的技术，一旦它脱离了人的控制，有能够对人类就是一个灭顶之灾。”

（看看旧事knews记者：王抒灵 吕心泉 潘凯 编辑：刘喻斯）