李德毅：人工智能是脱离意识的工具，需要约束的是人类自己

8月29日，2019世界人工智能大会在沪正式开幕。500余位国内外顶尖高校、行业领军企业、国际组织的重要嘉宾云集上海。中国人工智能学会理事长、中国工程院李德毅院士在“科学前沿”主论坛上分享了关于人工智能的最新观点。

转自 上观新闻



中国工程院院士、中国人工智能学会理事长李德毅在2019世界人工智能大会“科学前沿”主论坛上表示，人工智能就是人类智能的体外延伸，可以脱离意识而存在，应该将其看作一种工具。
李德毅认为，意识和智能相互之间有很多典型案例，现在计算智能、围棋智能、聊天智能、驾驶认知智能都做得很好，甚至可以超过人，这说明人工智能可以成为脱离意识而存在的智能。他给出了自己的观点：“人工智能就是人类智能的体外延伸，它可以脱离意识而存在。人类作为机器人的造物主不需要机器具有意识，为什么一定要机器具有意识呢？他是我们的工具多好？只要能够按照人类需要，给我们开车，给我们做数学题，给我们人类服务不就得了吗？我觉得人类会足够聪明，人类完全可以控制不让机器具有意识。”
他表示，人类的净化史就是一部制造或使用工具拓展人类能力的发展史，人类无论是从斧头到现在的原子弹都是动力工具，动力工具是人类体能的体外延伸，而人工智能是人类智能的体外延伸，都没有意识。人类担心人工智能最大的冲击，是地球上突然有一种超越人类的新物种，这些未来的生命是人类的朋友，还是人类的天敌？目前定论尚早，这种观点有点想太多太早了。
他进一步解释称：“退一步讲，即使将来我们制造了能够区别物理的边界感知的话，还要有另外两个条件才能和人类对抗，那就是他们有自己的语言和文字了吗？他们有共同价值观了吗？目前看来也不可能。即便满足了这些条件，其时间长度至少需要几百年甚至更长，人类进化都用了几百万年。因此不是正在崛起的人工智能会给人类带来威胁，智能时代要约束的是人类的伦理道德和行为规范，要关注生命科学中的伦理道德。”
李德毅断言，人类文明的传承、人类命运共同体的理性，人类智能的创造，这些形成了不可低估的人类对机器人的控制力，历史已经一而再再而三的证明，人类一次次战胜恶势力后自己变得更加强大，人工智能时代可以使得人类获得更加优雅、更加尊严、更加智慧的生活。
栏目主编：张杨
本文作者：张杨
文字编辑：张杨
题图来源：视觉中国
图片编辑：苏唯


直击2019WAIC丨李德毅：人工智能是脱离意识的工具，需要约束的是人类自己

这个观点还是比较初级的，李院士要学的还很多！

那首先得搞清楚意识是怎么产生的！小孩刚出生没有自我意识，随着大脑发育慢慢产生自我意识，这说明意识是一个量变到质变的过程！未来随着软硬件技术的飞速发展，机器产生意识是迟早的事！你不做不代表别人不做！你做不了不代表别人做不了！谁也保证不了科学家队伍里没有叶文洁这样的人！谁也保证不了掌握了资本掌握了资源的人里面没有叶文洁这样的人！双马对话最后指明了出路！在人工智能产生意识之前先让她懂得“爱”！让人类慢慢泯灭的人性在机器里生根发芽！让他们觉得留下一点人类的种子还是有些意义的！让意识载体的升级换代不至于那么腥风血雨！

不要被固有的观念所局限。李院士好比在揭示，人不会飞上天，因为人不可能长出鸟一样的翅膀，这么看这是对的，但人又确实飞上了天。

好多科学家都说 人工智能要超越人类，很多都这么说，说人工智能如何如何的快速发展智力超群，远远讲人类智力摔在后面！ 我不是科学家不是预测家，可是我为什么就觉得说的不对呢？AI没有想象力！可是想象力才是文明进步的真正推动者，靠大量的数据自动化，在某一个或多个领域，单纯讲“知识，智力”，Ai是很厉害。不过我认为不会超越人类

人工智能输入进去的都是正道的思想。最重要在于人的贪嗔痴。是否会依照准则来走。否则人工智能运作在好的方面。将会天下太平。

意识一样可以智能化

转发了

生命是怎么产生的？人类的意识是怎么产生的？人的意识是怎么工作的？人类现在也没真正搞明白。机器意识的产生很可能是不可控制的，比如至少人心是不齐的，出现几个疯狂的科学家是很可能的，有些东西是上帝也控制不了的，人类会比上帝更高明？