智客公社

标题: 10个故事，精准预测人工智能将如何深刻改变20年后的人类世界 [打印本页]

作者: 不发芽儿的豆儿 时间: 2022-9-18 09:20
标题: 10个故事，精准预测人工智能将如何深刻改变20年后的人类世界
人工智能将如何深刻改变20年后的人类世界？

李开复博士丰富的人工智能专业经验，加上科幻作家陈楸帆奇绝的想象和人文的叙事，合作而成一本无限贴近真实的关于未来的图书——《AI未来进行式》。

“有胆识之士才敢于展望人工智能的未来。”图灵奖得主、元宇宙（脸书）首席人工智能科学家杨立昆如是评价此书。

阅读此书，同样需要胆识。

[attach]787651[/attach]

《AI未来进行式》李开复陈楸帆著浙江人民出版社

非常贴近现实的未来

上书房：《AI未来进行式》给大家带来了一种全新的阅读体验，它是科技评论+科幻小说的结合体。关注科技未来的读者，可以只看李开复（《AI未来进行式》作者之一）的评论部分；喜欢文学的读者，可以只看您的10个精彩的科幻短篇。当然，我的建议是，两者都读，1+1的收获远大于2。您和李老师怎么会想到这种创作方式的？

陈楸帆（《AI未来进行式》作者之一）：大概是2019年的年中，李老师来找我。他说，大家都知道AI是非常重要的科技，但很多人或者觉得遥不可及，或者觉得晦涩难懂。他写过两本有关AI的书，但据他自己说，读者还是反馈技术含量过高，读不懂。怎么才能让更多人了解这项技术，不论理科生还是文科生都能看得懂？李老师就想找个能讲故事的人合作，于是就来找我。

这对我来说是个很好的契机。科幻小说往往被大家认为过于天马行空，我却提出科幻现实主义的主张，希望科幻能够反映现实、反思现实。所以，我和李老师一拍即合。

我们在前期进行了大量的调研访谈工作，访谈对象是人工智能领域的研究者、学者、从业者和投资者，希望尽可能深入地理解目前行业发展的状况。基于对访谈结果的理解，我们绘制了一张AI技术发展路线图，把不同技术点按照应用场景由近到远、由浅入深地进行排列组合。在这些“技术套装”之上，我再去创作故事，设置不同的背景、文化、场景、人物情感和价值冲突，以期在科技的信息量与文学的复杂性之间达成平衡。李老师则对这些科技作点评，描述这些科技是如何工作的，会给人类带来什么好处，什么挑战和烦恼；这些挑战和烦恼能否化解、怎么化解，以及未来社会将会因为AI技术产生怎样的改变。科幻小说搭配科技评论，是一种打破虚构与非虚构界限的文体类型。

[attach]787652[/attach]

我和李老师都觉得，90%的人是能从头到尾读完、读懂这本书，从而真正了解AI的。想从事AI研究或投资AI领域的人，借助这本书，可以增加想象力，寻找自己的兴趣点。普通人也需要了解当下科技发展到什么地步，未来还会发展成什么样，因为未来如何发展与每个人息息相关。

这本书有许多种读法，分开来读，合起来读；把它们作为互文来读，或许还能读出两部分之间的某种断裂、冲突。这些都很有意思。

上书房：您的故事和李老师的评点非常契合，但仔细读，确实如您所说，能读出些不同的感受，主要是你们对未来的预测在乐观度上有所不同。这样命题作文式的创作，会不会很受限制？

陈楸帆：算是半命题作文吧，但确实很难写。

AI包含非常多不同方面的技术。比如人脸识别技术是和计算机视觉有关，有一些更基础，比如深度学习、自然语言理解/处理。更多是两者结合，比如Deepfake，这个词本身就是deep learning（深度学习）和fake（假的，伪造的）的合成词，意指一种合成媒体，将现有图像或视频中的一个人替换成其他人的肖像。虽然制造虚假内容的行为并不新鲜，但引入深度学习技术制成的假视频、假音频，让人很难辨析。总之，各种AI技术对应不同的行业，有不同的应用场景，在不同的文化背景中产生既有共通性又有独特性的问题，要用故事把这些都展现出来，真不是件容易的事。

但这不是最难的。难在如你所说，李老师是个技术乐观主义者，但纯粹的乐观落实到故事层面会显得幼稚且缺乏戏剧张力，我必须去挖掘其中可能存在的价值冲突。开始有过废稿。直到我提出一个方向：10个故事必须落在10个不同的社会环境中，必须从特定的历史文化语境中去寻找未来演变的迹象。AI技术作为工具，可能被利益集团滥用，放大人性或制度中的负面因素，比如《一叶知命》中的种姓制度。最终，人类需要发挥自己的主观能动性，学会与科技共生共存、共同进化，才能找到唯一的出路。比如《人类刹车计划》是一个疯狂科学家想要毁灭世界的故事，如何让它既真实可信又不落俗套，还要给读者保留一种希望，令我煞费功夫。但在找准这个方向之后，创作就顺了，不再有废稿了。

[attach]787653[/attach]

上书房：书中涉及的技术，都极有可能在20年内发生吗？

陈楸帆：我们在创作之初就定下基调，不写《终结者》《星球大战》那样遥远的未来，而是非常贴近现实的未来。

不仅书中对技术的预测是非常贴近现实的，故事发生的场景也非常贴近现实。10个故事发生在不同的国家、不同的文化里，我们希望读者阅读的时候，能有非常强烈的真实感，为此我们从很多角度去做功课，包括查阅当地的历史典故、法律法规，了解民族文化细节等。

每个人“读”出自己的未来

上书房：《AI未来进行式》英文版早于中文版面世，被《华尔街日报》《华盛顿邮报》《金融时报》等媒体评为2021年度图书。英文版书名《AI2041》很好理解，中文版则使用了“未来进行式”这种虚构的时态，这是想传递给读者什么样的信息？

陈楸帆：英文版是去年出的，所以叫《AI2041》，之后又售出了很多国家的版权，比如即将面世的法文版，会叫《IA2042》，法语把AI叫作IA。中文版书名《AI未来进行式》，是我和责任编辑经过多轮讨论后想到的。我们想表达的意思是：书中所写的，既是尚未发生的事实，又已然在当下有一些迹象，有一些进展，处于一种“量子叠加”的状态——既未完成，又在进行中；既代表了对未来的期许，也代表了我们当下的努力和对未来的设计。

上书房：这本书几乎在全世界范围内获得好评，您觉得是什么吸引了身处不同文化中的读者？

陈楸帆：这本书受欢迎程度确实超出我们的预期。英文版出版一年，亚马逊上就有近900条评论，评分是4.4（满分为5分）。Goodreads（全球最大的读书社区）上的评分是3.87（满分为5分），评论近2000条。最近刚收到邀约，德国书展会给这本书的德文版颁一个“年度十强”的奖，让我们去现场演讲。

在全世界范围内被认可，我觉得还是跟我们的创作初衷有关系。我们的初衷就是想通过讲故事的方式，让普通读者能沉浸式地进入一个个特定场景，以此来普及AI的技术、图景和发展路径；同时也启发人们去反思，我们当下该做好哪些心理上、教育上、社会制度上、法律法规上的准备，以使我们更好地过渡到未来这样一个人机共生的社会形态。

进入这样的社会形态，是必然的。不管在中国，还是在美国，或是欧洲哪里，它都已然是一个不可逆转的潮流。在这样的未来到来之前，我们有责任帮助更多的普通百姓，尤其是青少年，去理解这样的未来。面对未来，我们不该害怕、排斥、抗拒，而应主动拥抱这种变化。这样的共识凝聚起来后，我们才有可能去做一些建设性的事情，去主导和影响未来。

[attach]787654[/attach]

2022年8月30日，陈楸帆在瑞士苏黎世一家书店签售英文版《AI2041》

上书房：我读完这本书后，推荐给身边的一些人，让他们读了之后告诉我自己喜欢哪个故事。我发现答案各不相同。

陈楸帆：很多读者喜欢的故事都不一样，每个人因为自己的背景、自己的生活状态、自己的喜好，会对其中某一个故事产生特别强烈的共鸣，这很好。我们的书，就是想让每个读的人，都能从中“读”出自己的未来的影子，就是一种未来的可能性。

有无穷尽的未知在等我们

上书房：2014年我看电影《超体》和今天读这本书的感受非常不同。《超体》让我觉得那是幻想，而这本书里虽然有科幻小说，但本质是一本科普书，起到了祛魅的作用。比如，很多普通人对AI的理解还停留在编程层面，用“码农”一词来统称所有与计算机科学相关的从业人员。读了这本书，我的新的理解是：无论是图形识别还是自然语言，或者其他AI细分领域，AI最核心、最具突破性的技术都是深度学习，AI系统架构的复杂运算全部在成千上万层卷积神经网络中自主进行。我的理解对吗？

陈楸帆：对的。编程还是比较线性和基础的，就是写一段代码来解决某一个特定问题。深度学习则不同。学习是你去知道一些原本不知道的东西，不然就不叫学习。深度学习搭建起的非常多层的卷积神经网络，是一个复杂性系统，数据之间不是线性的对应关系。在这个复杂性系统里面，会涌现很多新的特征，这些特征可以帮助机器更好地理解我们人类的语言、外部的世界，等等。总之，它能够自己去形成特定的机制，去处理特定的问题。

比如，人类很容易识别出一张照片里有没有猫，但你没办法教机器这么去做。因为每只猫都不一样，你无法穷尽所有猫的照片输入电脑。但是，卷积神经网络能够自主提炼猫的特征，形成一套理解什么是猫的机制。

我们人类就是这么学习的。我们现在对AI所做的，就像是在教孩子，教它怎么通过这种数据的层层学习，理解人类是怎么讲话的，怎么看世界的，怎么做判断的。这个过程非常奇妙。

[attach]787655[/attach]

上书房：但这个过程也会出错。

陈楸帆：是的。一层层的神经网络，有不同的参数，机器自主分辨这些参数，不断地将它们归类、计算，形成机器自我的学习。但一开始错误率会很高，需要人类不断调节参数和结构，让它少出错、更准确。这有点像调电台：调到不同波段，出来不同频道；没调到波段，就出来噪音。编程很多时候在这个过程中起到的作用就是调整参数，让机器能够输出我们人类想要的答案。

上书房：书中反复提到，“深度学习的强大之处就在于它可以在所有信息的特征中找到微妙的组合，对组合特征中丰富的有价值的信息做更深层的洞察，而这个过程是人类无法理解、无法做到的”。也就是说，人类知道自己输入了什么，却不知道也不能掌控AI会输出什么。这让人细思极恐。尤其是当我读到GPT-3回答如何让埃隆·马斯克竞选总统成功这个问题，不仅说要通过操控舆论来赢得选战，还说要杀死反对马斯克的记者，用拥护马斯克的记者取而代之时。这会是AI的典型思考模式吗？

陈楸帆：GPT-3是一个非常有意思的工具，应该很快就要推出GPT-4了，每一次都是一个更大数据量、更多参数的升级。工具不存在好坏，而取决于你用它来做什么。我认识一些朋友，他们用GPT-3来创作，比如写小说、写诗歌，还可以用它来画画——你写一句话，它就能为你生成一幅特别好看的画。

我理解你的担忧。科学界有一个说法，说AI就像一个黑匣子。你喂给它数据，它输出一些结果；你通过调节参数——这些参数可能是成百上千亿个的——来改变输出结果。但在这个过程中究竟发生了什么，AI为什么输出这个结果，而不是那个结果；为什么这么调整参数，会给结果带来那样的改变，背后的逻辑是什么，目前还处于研究之中。

最近20年里，AI技术突飞猛进，有非常多的进展。比如用AI预测蛋白质折叠的结构，它可以自学自然界中蛋白质的形态、折叠结构的规律，然后自己去计算、推测出全世界可能存在的上亿种蛋白质的结构，是人类做研究的非常强大的工具。但是，我们确实不知道它是怎么做到的，至少在基础理论方面，我们还没有达到这个理解水平。所以，欧洲立法，必须把AI的可解释性作为一个非常重要的标准，来衡量一些企业、机构、平台所提供的AI服务是否合理合法。

[attach]787656[/attach]

上书房：这和之前任何一次工业革命不同，之前我们是从理论到应用，而这一次，似乎理论并未前行，应用却已如火如荼地展开。

陈楸帆：以往的逻辑，是非常古典的，属于牛顿力学时代；我们现在已经到了量子物理的时代，不再是一个线性的叠加的过程，而是部分之和大于整体，会涌现出一些每个单一部分所不具备的新的特征。现在“复杂性科学”的提法很热门。去年诺贝尔物理学奖就颁给了三位从事复杂性科学研究的科学家。这是一个新的时代、新的领域。

有一次，我参加姚期智（计算机科学专家，2000年图灵奖获得者）的一个活动。他在活动中说，未来我们要更深入地投入到AI逻辑底层的理论建设和研究上，因为我们应用AI技术很长时间了，在不知道它的理论基础的情况下，就在上面搭了非常多的“建筑”。

上书房：您觉得多久能揭开这个逻辑底层的秘密？

陈楸帆：无法预测。其实，人类对自身的了解，尤其是对大脑的了解还非常浅，我们只能说大自然造物太神奇了，经过亿万年的自然进化，创造出我们人类这么精密的机器——人也是一种机器，只不过它是碳基机器。我们对自身还无法完全理解，很难理解模仿我们自身创造出来的机器智能。

包括人们常常追问的AI的终极方向，我觉得现阶段，甚至未来很长一个阶段，我们都没法讨论“终极”这件事。科学是不断拓宽已知的边界，但外面始终有无穷无尽的未知在等着我们。我们只能一点点去探索，就像走夜路，我们用手电照亮脚下的路，但前面有更多黑暗等待被照亮。

“相爱”的实质是情感的投射

上书房：人脑研究的进展是否能促进人工智能研究的发展？

陈楸帆：人脑研究的进展一定会促进人工智能的发展，但相对来说，目前还是AI的进展快于人脑研究。人类大脑里面涉及太多主观性的东西，比如我们的情绪、思想是怎么产生的、怎么变化的，这些过程很难通过一个客观的测量来记录，顶多测大脑血液流速、脑神经元放电情况等。但它们只是表征，不是信息本身，这导致大脑研究非常困难。打破主客观界限，大脑研究才会有真正的突破性进展。但这太难了，我觉得这是个终极性问题，是一个哲学命题。

上书房：会不会出现这种状况，在我们人类没搞明白自己的大脑意识之前，人工智能产生了类似人类意识的机器意识？

陈楸帆：存在这种可能性。前阵子谷歌的AI研究员Blake Lemoine，说自己在跟聊天机器人LaMDA聊天的过程中，发现AI出现了意识。他公布了很多聊天记录，在业界引发争议。因为这名研究员有非常强的宗教背景，人们认为他把自己的意识投射在了AI上。投射是人类固有的一种思维模式，我们会把很多主观的东西投射到一个客体上。机器究竟会不会有意识，可能某种程度上取决于我们如何定义意识。

上书房：这个问题在电影《她》中有所探讨。

[attach]787657[/attach]

电影《她》剧照

陈楸帆：是的。电影所展现的男主与AI的“相爱”，实质是男主在AI上的情感投射。

总之，目前我们尚处于人类智能与机器智能互相激发、互相融合的过程，最后会变成什么样，大家都很好奇。我们很有可能在有生之年就看到这个结果。我们现在就在用机器来研究人类大脑神经元的连接图谱，以更好地了解人类神经是怎么连接、怎么执行不同功能的。

我们已经和机器紧密连接在一起了，已经是一种共生的状态，帮助彼此更好地理解对方，也理解自己，实现共同进化。这是我理解当下技术发展的路径。

打破现有逻辑是巨大的挑战

上书房：相比其他AI应用，无人驾驶似乎相对好理解些，也已经有看得见的应用了，书中却说自动驾驶才是AI皇冠上的“明珠”，这是为什么？

陈楸帆：这个说法出现在李老师的点评部分，以我的理解，他这么说，也许是因为自动驾驶可能是现阶段整合AI技术最多的应用。它涉及计算机视觉技术，需要用激光雷达、深度摄像头等来实时捕捉周围的环境，之后机器进行决策，再与方向盘、油门、刹车、变速箱等机械传动系统整合。这个过程，打通了数据与机械两个系统。还有一个整合是包括道路环境在内的基础设施上的整合，目前自动驾驶技术的应用，很大程度上受限于基础设施。自动驾驶还带来很多法律问题，比如事故责任归属等。如果10年、20年后马路上一大半车都是自动驾驶的，那还会带来社会形态上的巨大变化。

所以，这是一个庞大的系统性工程，它的难度不在于单一技术的难度，而在于整合。如果这个工程能落地，那绝对是AI的里程碑式成果。

[attach]787658[/attach]

上书房：小说《双雀》探讨了AI在未来为教育赋能的潜力，一对双胞胎孤儿以AI为伴；《无接触之恋》讲的是在一场全球大流行病中，女主角与世隔绝，把自己封闭在家中无法出门；《偶像之死》描述了未来的娱乐业，到那时，游戏都将是五感立体沉浸式的，虚拟和现实之间的界限变得模糊难辨。这三个故事各有侧重，在谈AI给教育、医疗和娱乐等领域带来的变化。但是，我都从中读出了人与人之间的疏离，人与技术越融合，人与人越疏离。当下就有越来越多的孩子沉迷于网络世界。书中说到，未来不容易被AI取代的是那些需要高度社交技巧和同理心的工作，可是，我们似乎正在失去社交的欲望和能力以及同理心。对此，您怎么看？

[attach]787659[/attach]

未来会怎样

陈楸帆：我们正在面临现实与虚拟越来越撕裂的挑战。不只是社交媒体，还有很多工作、娱乐、教育的方式，都在越来越往虚拟的方向走。出现这样的趋势，有很多现实因素，不单是技术的因素，虽然技术在其中确实起到了推波助澜的作用，因为它提供了便捷和低成本的平台。很多平台还会用推荐算法，将用户深度绑定在虚拟空间里，慢慢变得排斥和抗拒真实世界。

这种情况现在在发生，在可见的未来，可能会变得更严重，人类的精神、心理状态可能会变得很脆弱。而且，往往越是年轻人，越缺少自我调节能力。他们的成长环境，物质上看起来非常丰沛，精神上的滋养和支持却是不足的。在多篇小说里，我想表达，我们能否通过对技术的重新设计，让人类重新去建立与真实的人类、自然的环境、整个社会的链接，而不是被屏幕所隔离。比如《双雀》，兄弟俩最后走上了不同的道路，但因为更改了AI伙伴的底层设计，让兄弟俩产生了一种类似于心灵感应的感应——尽管这是假的心灵感应——让他们重新意识到，需要回到亲情血脉的联结中。

当然，这是很难的事，因为要打破现有的技术逻辑、资本逻辑，去重建很多东西。如何创造一个良性的、建设性的、可持续的技术未来，不应该只有科技公司、技术人员参与，而要有人类学、心理学、教育学、文学家、艺术家等各方面的专家参与，才能有充分多的维度照顾到每个人的心理、心灵、精神上的需求。这是巨大的挑战。

来源：作者：顾学文

欢迎光临智客公社 (http://bbs.cnaiplus.com/)