AI的将来，会如何影响人类的将来？下一个发展方向是什么？| 周末读书

回复赠书：你以为或者你等待人工智能下一个发展方向是什么？我们将会选3位留言质量较高的用户，收费赠送《AI的25种能够》。（互动平台：“第一财经资讯”微信公众号 ）

世界上最聪明的网站Edge，每年一次，让几十位全球最伟大的头脑坐在同一张桌子旁，共同解答关乎人类命运的同一个大成绩，开启一场智识的探险，一次思想的游览！

这次，包括史蒂芬·平克、朱迪亚·珀尔、丹尼尔·丹尼特、迈克斯·泰格马克等在内的25位计算机迷信家、心思学家、物理学家、科技史学家将话题聚焦到了人工智能，他们讨论了AI的25种能够，也是人类将来的25种能够。

明天的文章是对人工智能趋向的讨论，朱迪亚·珀尔对当下火热的深度学习持怀疑态度：深度学习有本人的动力学机制，一旦你喂给它大量的数据，它就活跃起来，绝大多数时分都会给出正确的结果。可一旦结果错了，你不会知道哪里出了成绩，也不知道该如何修复。乔治·戴森则以为，计算的将来是模拟。汤姆·格里菲思从认知迷信家角度提出了，机器学习的下一个研讨范畴，必然是人类良好模型。

编者：约翰·布罗克曼(John Brockman)

出版社：湛庐文明/浙江人民出版社

朱迪亚·珀尔：不透明学习机器的局限性

当前的机器学习系统几乎完全在统计形式或者说模型盲（model-blind）的形式下运转，这在许多方面相似于将函数拟合到大量点数据。这样的系统不能推理“假如……会怎样？”的成绩，因此不能作为强者工智能的基础，强者工智能是模拟人类推理和才能的人工智能。为了达到人类智能程度，学习机器需求理想蓝图的指点，这种蓝图是一个模型，相似于当我们在生疏城市开车时给我们指路的道路地图。

我以为机器学习是一种工具，使我们从研讨数据走到研讨概率。但是，从概率到实践了解，我们照旧需求多迈出两步，非常大的两步。

一是预测举动的结果。第一层是统计推理。统计推理能告诉你的，只是你看到的一件事如何改变你对另一件事的看法。例如，某症状能告诉你得了哪一种疾病。然后，是第二层。第二层包含了第一层，但第一层却不包含第二层。第二层处理的是举动。“假如我们抬高价格会怎样？”“假如你让我笑了，会怎样？”第二层需求的是干涉信息，这些信息是第一层所没有的。这些信息可被编码成概率图模型，它仅仅告诉我们哪个变量对另一个变量有呼应。

二是反理想想象。“假如这个东西重两倍，会怎样？”“假如当初我没有这样做，会怎样？”“治好了我头疼的是阿司匹林还是刚刚打的盹？”反理想在感觉中属于最高层次，即便我们可以预测一切举动的结果，但却无法得到反理想。它们需求一种额外的东西，以等式的方式告诉我们对于其他变量发生的变化，某个变量会如何反应。

因果推理研讨的一个突出成就是对干涉和反理想的算法化，也就是对层级结构最高两层的算法化。当我思索机器学习的成功并试图把它推行到将来的人工智能时，我问本人：“我们能否看法到了在因果推理范畴中发现的基本局限性？我们预备绕过妨碍我们从一个层级升到另一个层级的实际妨碍吗？”

所以我以为，数据迷信只是一门有助于解释数据的迷信，而解释数据是一个两体成绩，将数据与理想联络起来。但无论数据有多“大”，人们操控数据多么纯熟，数据本身并不是一门迷信。不透明的学习系统能够会把我们带到巴比伦，但绝不是雅典。

乔治·戴森：计算的将来是模拟

电子工业在过去的几百年中阅历了两个根本转变：从模拟到数字，从真空管到固态器件。这些转变一同发生，但并不意味着它们有着密不可分的联络。正如运用真空管可以完成数字计算一样，模拟计算也可以在固态器件中完成。即便真空管在商业上曾经消逝，但模拟计算依旧非常活跃。

模拟计算和数字计算之间没有准确的区别。普通而言，数字计算触及整数、二进制序列、确定性逻辑和被理想化为团圆增量的工夫。而模拟计算触及实数、非确定性逻辑和延续函数，以及存在于理想世界中的延续工夫。

想象一下，你需求找到一条路的中间点。你可以运用任何可用的增量来测量它的宽度，然后用数字方法计算出间隔中间点最近的增量。或者，你可以运用一根带子作为模拟计算机，量出道路的宽度然后对折直接找到中间点。这种方法不受增量的局限。

许多系统在模拟和数字之间转换运转。一棵树将各种各样的输入整合成延续函数，但是假如你砍倒那棵树，你就会发现它不断在用数字方法计年。

在模拟计算中，复杂性存在于网络拓扑结构而不是代码里。信息被处理为诸如电压和相对脉冲频率之类的值的延续函数，而不是对团圆的位串的逻辑运算。由于不能容忍错误或模糊，数字计算需求随时纠正错误。而模拟计算可以容忍错误，允许错误的出现。

汤姆·格里菲思：我们短少的是人类的良好模型，机器学习的关键必然是人类的学习

价值对齐，就是使自动化智能系统的价值与人的价值对齐。在人工智能研讨中，价值对齐只是一个小的主题，但对它的研讨日渐添加。用于处理这个成绩的一个工具就是反向强化学习。

强化学习是训练智能机器的一种标准方法。经过将特定的结果和奖励联络起来，可以训练机器学习系统遵照产生特定结果的策略。古代机器学习系统可以经过运用强化学习算法找到非常有效的策略来玩电脑游戏，从简单的街机游戏到复杂的实时策略游戏。反向强化学习改变了这种途径：经过观察曾经学习了有效策略的智能主体的行为，我们可以推断导致这些策略发展的奖励。

最终，我们需求的是一种方法，它能描画人类思想的运作原理，具有感性的普遍性和启示式的准确性。完成这一目的的一种方法是从合感性末尾，思索如何让它朝理想的方向发展。把合感性作为描画任何理想世界行为的基础，这就存在一个成绩，那就是，在许多状况下，计算合理行为需求主体拥有大量的计算资源。假如你正在做出一个非常重要的决议，并且有很多工夫来评价你的选择，那么花费这些资源也许是值得的，但是人类的大多数决议都是疾速做出的，而且风险相对较低。无论在什么状况下，只需你做出决议花费的工夫成本很昂贵（至少由于你可以把这些工夫花在别的事情上），感性的经典概念就不再能很好地描画一个人该如何行事。

超级智能人工智能还有很长的路要走。在过去几年里，对视觉和言语的模型开发曾经创造出了用于解释图像和文本的重要的商业新技术，而人类照旧是我们在制造思索机器时要参考的最好例子，所以我以为开发良好的人类模型将是下一个研讨范畴。

回复赠书：你以为或者你等待人工智能下一个发展方向是什么？我们将会选3位留言质量较高的用户，收费赠送《AI的25种能够》。（互动平台：“第一财经资讯”微信公众号 ）