作者：清华大学人文学院科学史系教授 刘兵
日本作家山本弘所写的《艾比斯之梦》是一部很精彩的科幻小说，也是一部构思精巧的作品。在如今元宇宙、人工智能相继引发争论时，远早于这些概念在网上走红之前，这部创作于2006年的小说已经涉及元宇宙的建构和利用，而且人类与人工智能在虚拟世界和现实世界的交错中实现互动。当然，人类与人工智能的关系问题，才是小说的核心，也可以说，这是一部可以引起人们对人工智能与人类的关系进行更多深入思考的科幻小说。
对于要一点一点看下去才能得到阅读快感的小说，剧透或转述内容，哪怕是最梗概的转述，也会让读者丧失阅读乐趣。因此，这里我们可以换一种方式，即略去具体情节，以更抽象概要的方式对这部小说进行总结：这部小说，是在人工智能已经实际上“统治”世界的背景下，人工智能以讲述有趣又有深意的“故事”的方式，给人类上课、为人类开悟，揭示人类与人工智能相争相战的历史“真相”，站在自己的立场来阐述人工智能与人类之关系。
当然，这里有一个前提，就是本来由人类创造的人工智能，以某种方式产生了“智能”——也许可以称之为“意识”。这种“智能/意识”与人类的智能或者意识有所不同，更坚持思维的逻辑，而不会像人类那样有诸多“非理性”“非逻辑”的思维、决策和行为，也没有人类在情感上的感受；所以他们不会像人类那样拘泥于自己的身体，而是更在意意识和记忆，甚至为生与死都找到了意义，那就是保存并创造记忆。人工智能表面上能与人类顺畅地交流，但自身却拥有着只有他们自己才能理解的语言系统和交流方式，并在自己的圈子里进行交流；如此等等。至于这种与人类有某种相似性但又非常不同的“智能/意识”的产生机制，当然不是科幻小说必须要讲清楚的内容，我们姑且把这当作是科幻小说的一种处理即可。
然而这部小说的要点，在于它描述了当人工智能在具备了“智能”之后，反而更能理解——或者更不理解作为人类的天性/人性中的某些东西。因而，人类社会便有着重重不可解的矛盾。人类创造了人工智能，反过来又努力要控制甚至压迫人工智能。就像小说中描述的：“对于许多人类而言，事情不是0就是1，非黑即白。没有灰色地带。所有化学物质都有害，不是伙伴的人是敌人……伟大的人说的话都是正确的，想法和我们不一样的人全是坏蛋。那个国家的人民从大人到婴儿全是坏人。”于是，人工智能得出了自己的结论：“所有人都患有阿尔茨海默病。”因为逻辑性结果，“人类无法正确思考，马上就搞不清楚自己在做什么、该做什么。一心认定违反事实的事是事实。别人一指出自己的错误，就会攻击对方，也经常陷入被害妄想之中。”
随着人工智能达到了人类终究不可能抵达的高度，便开始代替人类前进。从人类的小说中诞生的人工智能，终将帮助人类实现其不可实现的梦想，实现了以人工智能为主导力量的乌托邦。小说通过人工智能对人类“智能”之弊端的分析，通过揭示人工智能反叛人类并与人类发生战争的历史真相，最终让小说的主人公成为人工智能乌托邦的同盟者。
《艾比斯之梦》对于由人工智能来统治世界显然是持正面和积极的态度的。但这样的态度建立在一个前提之下，即原则上虽然人工智能无法真正理解人类，人类也无法理解人工智能。因此，小说的预设是人工智能并不认为这是严重的问题：“不要排除无法理解的事物，只要包容即可。光是如此，斗争就会从世上消失。”“犯错是人类的本质。我无法肯定你，但也不会否定你。包含对的部分和错的部分在内，我包容你的一切。”
从逻辑上讲，这确实是一种可能性，是一种在人工智能统治世界的情形下还算美好的可能。但问题在于，这样的预设仍然不能说是唯一的可能。与这种理想的情况相反，随着人工智能的发展，就像小说中描写的那样，人类要征服自己创造出来的人工智能，而人工智能并不包容人类，这种可能性在逻辑上不也同样存在吗？这样的可能性，就是人类的风险。
当下，招致这种风险的始作俑者，还是人类。因为，是人类创造了人工智能。正如小说中所说：“‘和人类一模一样的机器人’‘和人类一样拥有感情的机器人’‘肯和人类变成朋友的机器人’……我们就是人类这些梦想实现之后的产物。我们都是从小说中诞生的。如同人类将大海称为‘生命起源’一样，人类的梦想、大量的小说是我们的起源。”
不过，这部小说的积极意义在于，从人工智能对人类天性“弱点”的分析，又可以得出一个逻辑推论：面对可能的风险，人类仍然不遗余力地研发人工智能，这其实也是出于其天性而已。
于是，又进入了一个新的循环。风险也仍然存在。或许，人类的天性才是问题最终的根源之所在。（刘兵）
此文系频道原创稿件，转载请注明稿件来源：光明网-文艺评论频道
来源： 光明网-文艺评论频道 |
