人工智能将会对人类的政治形成什么样的影响？

撰文|徐悦东

作为本世纪至今最重要的技术话题之一，人工智能持续遭到世界关注，诸多观点聚讼纷纭，许多学者普遍担忧充分发展的人工智能会对人类文明产生宏大的不确定性，他们就心思学、伦理学、言语学、心灵哲学、脑神经迷信、计算机迷信等范畴对人工智能给人类生活带来的能够性做出了讨论。但是，较少学者从政治哲学出发，对人工智能对人类的政治体制所形成影响的能够性做出讨论。而这部分义务则交给了科幻作品，我们常常能在科幻作品里看到人工智能如何奴役人类，或如何制造了“反乌托邦”社会的场景。

充分发展的人工智能将会对人类的政治体制形成什么样的影响？人类会不会像许多科幻电影所拍的那样，最终被人工智能所统治？还是说人类将会应用人工智能，完成某种“乌托邦”抑或“反乌托邦”？更为脑洞大开的是，假使人工智能统治了世界，人工智能和人工智能之间的政治又会是什么样子的？

6月15日，在首都师范大学政法学院和首都师范大学人工智能哲学交叉学科平台主办的第一届人工智能哲学跨学科高峰论坛上，三亚学院马克思主义学院院长王志强做了“人工智能的政治哲学批判”的主题报告，与大家讨论了人工智能对人类的政治体制能够形成的影响。

人类政治的存在需求什么条件？

“人类进入文明史以来，特别是进入古代社会的数百年以来，我们的消费生活方式发生了猛烈的变化。但是，其实我们的政治制度直到明天也没有完全跳出古典时代所总结的诸如民主制、共和制、僭主制等基本的政治制度方式，这意味着以往的技术变迁对我们基本的政治方式变动没有那么分明的影响。”王志强话锋一转，“但人工智能的崛起很有能够极大地冲击并改变人类的政治次序的相对波动性，所以我觉得对它停止一个政治哲学的思索和批判是有意义的。”

王志强在现场做报告

而当我们研讨政治的时分，政治迷信更关怀实证研讨以及“政治是怎样样的？”而政治哲学更关怀“政治该当如何？”但是，当我们问这两个成绩的时分，我们会面临一个前提性成绩，即“政治何以能够？”在我们分析人类政治的时分，这个前提似乎不太需求去思索。但是，要将人工智能归入政治的范畴时，这个成绩显得格外重要。

王志强以为，恰如柏拉图在《普罗泰戈拉》中的神话一样，在城邦诞生之前，人们独居会受野兽要挟，群居却又彼此为祸，最后宙斯把“政治智慧”赐予人们，赫尔墨斯问宙斯这种德性应该赋予一切人还是多数人，宙斯回答：“分给一切的人，让他们每人都有一份，假如只要多数人拥有它们，就像技艺的状况那样，那么城邦决不会产生。”我们可以从柏拉图这里得出政治何以能够的几个关键要素：群居必需、普遍的政治智慧（互相承认）和暴力。

但并不是一切群居动物都会产生政治，由于他们群体的外部不一定有协助性关系。像蜜蜂和蚂蚁，他们有明白的分工协作，但是他们没有统治性关系，由于他们的分工是以天分的差异为标准的。所以“普遍的政治智慧（互相承认）”是政治得以能够的重要必需条件，这意味着个体之间没有自然性的差异，我们每个人的智力和体力基本上是相似的。

虽然古代自在主义能够不认同古典政治哲学以德性为终点的政治哲学叙事，但从霍布斯末尾，近代自在主义政治哲学描画人类从彼此为祸的自然形状向契约协作的政治形状过渡都离不开“人是感性自利”的前提，而“感性自利”也以“互相承认”为共同体能够的前提。而在政治举动里，暴力是获得统治权的方式，是政治何以能够的前提和边界。

而对于“政治是怎样样的？”这个成绩，王志强以为，对于一个共同体来说，群落要生活下去，我们得从自然界不断获取资源和能量，获取的环节需求分工，停止组织和管理。但是，资源是有限的，所以我们的统治是有纪律准绳的。此外，我们每个个体都想获得尽能够大的利益，这就触及分配的准绳，并在这个约束条件下得建立一套分配的封闭次序。

而在“政治该当如何？”的成绩上，王志强以为，政治性动物的政治次序是客观性的介入的政治，但是这个客观性的介入遭到前两个条件限制。由于资源是有限的，所以我们的政治统治就得有效率准绳。由于受我们的“平均愿望”的限制，统治者要维持统治地位，就得得到大多数人的承认，统治就得遵守公正准绳。

有限自主性的强者工智能将完成计划经济？

王志强以为，有了后面对政治“何以能够、是为何物、该当如何”的分析框架之后，我们可以对人工智能如何影响政治加以揣测。根据人工智能发展的能够性，我们姑且可以将人工智能分成三类：有限自主性的强者工智能、纯知性的超人工智能、有自主目的的超人工智能。这三种人工智能进入到理想世界之中，分别会给人类现有政治次序带来什么样的影响？

有限自主性的强者工智能离我们比较近，它是指完全可控的人工智能。他们没有独立看法，根据既定程序和算法协助人类完成某些专门智能工作。一种是专业技术类的，比如自动驾驶、言语翻译、会计审计等；另一种是社会管理类的，如城市交通讯号管理、机场航线调度、电力调度分配等。他们都不会作为政治主体触及政治成绩，但是他们会产生一些政治性的后果。

自动驾驶概念图

专业技术类的强者工智能，有如“自动驾驶”，若自动驾驶的汽车遇到“电车难题”，它该如何选择牺牲谁？谁来承担后果？这类成绩本身是人类本身的政治哲学成绩，在专业技术类强者工智能编程算法的设定中，我们首先需求经过人类本身的政治博弈，并在人类政治次序内界定权责。

而社会管理类的强者工智能的存在则带有政治性。王志强以为，若我们做一个最极端的想象，在一个绝后弱小的社会管理的强者工智能的管理下，我们最终能完成计划经济。以前计划经济之所以失败，是由于人类的智能根本不能够应对那么多变量和那么大强度的计算，而一个弱小的人工智能可以处理这样的成绩。

但是，这样的结果将与古代人的“权益准绳”产生冲突。由于个人偏好是客观性的。在全体下去说，既有效率又公正的决策，受支配主体不一定会赞成，而假使这种决策还带有不可逆的强迫性，那么人类能够因此丧失启蒙以来所获得的基于自在意志准绳的一切个人权益。所以，对于社会管理类强者工智能来说，我们在编程中就要经过充分的政治博弈，加入某些“权益准绳”的限制条件，并且在其运转之外，还需设定可逆的人类政治判别纠正程序。

纯知性的超人工智能是佛系的人工智能？这能够改变人类现有“多数之治”的政治

纯知性的超人工智能，是具有独立因果演算才能的通用性人工智能，它自主搜集信息并学习退化，可以脱离人类自主感知理想世界并做出判别。它不是被制造出用于某种特殊的功用。它的活动限定于中性的理功才能及其退化本身，同时可接收和回应人类的指令。

这种人工智能能轻松掌握人类文明迄今为止的全部知识，并可以在物联网的协助下经过各种宏微观的观测安装获得超越人类既定知识总量的知识。同时其能在自我演算中不断提高运算才能，最终在智能上超过整个人类文明，甚至超出我们可了解的范围。

王志强调侃道，“它是一种佛系的人工智能”，它什么都知道，但不用做任何事情，我们可以向它停止咨询意见。王志强以为，这种人工智能会扮演“先知”一样的角色。人类社会如今普遍采取的“民主制”和“共和制”是以多数人的智力大体平均为前提的。那么当这种超人工智能表现出超人类智能并能回应人类诉求，这将极大地提高人类消费力，并展现出不可替代性。这能够改变人类现有“多数之治”的政治，至少在消费型的“纪律次序“范畴演化为由人工智能决策的“君主制”，人类政治组织也许会变成围绕这个强者工智能的咨议和执行机构。假如只要多数人甚至一个人可以接触强者工智能停止咨询，那么人类政治将堕落成“寡头制”或“僭主制”。

有目的的强者工智能将终结政治？

王志强以为，有目的的强者工智能的出现一定是政治性的，而且它将在不赞同义上终结政治。这种人工智能有两种类别：一种是有着单一目的性的人工智能，它没有反思性，而且这种直接目的性很强。而另一种状况则比较理想，这样的人工智能有一定的自我限定逻辑，对人类有最少的承认。

在有着单一目的性的强者工智能的状况下，若目的是由人类设定的，但其随后运作并不受人类控制，它最终将瓦解人类次序，建立一切资源服从单一目的的新次序。而若目的是由人工智能本身演进出来的，状况更不可控。即便人类没有任何反抗希图，人类对资源的耗费就会使人类本人呈现它为竞争者，人类独一存续的能够是帮手的角色，但是这个角色并不好当。

而在有自我限定逻辑的人工智能的状况下，人类消费力的提高是可预期的。但是，在人工智能经过脑神经迷信所掌握的心思信息远超过人类自我看法对自我的认知时，那时自在意志何以能够？当然足够弱小的人工智能可以营建出一个让人“感觉到自在”的社会条件，在人类活在自在的幻觉中，人类就曾经成了超级人工智能的“宠物”。

而若这时人工智能有了本人开放性的自主目的，面对与人类的资源竞争，虽然它能与人类和平共存。但这时，人工智能会公开接管资源支配权，并经过增量发展逐渐远离人类。它充分展现的全能感会使得一切自然人类首领的个人魅力黯然失色，对人工智能的崇拜将构建一种宗教政治，直至其发展出新的超出人类物理半径的物质基础，并完成与人类的物理脱离。

成为“赛博格人”或许是人类政治在人工智能时代继续存续的独一途径？

假如在同一个资源网络中有多个人工智能同时并存，它们会不会构成某种政治关系？王志强以为，缺乏目的性的强者工智能和纯知性的人工智能之间没有政治，而政治将发生在有自主目的性的超人工智能之间。

人工智能之间的和平有会是什么样子？王志强以为，若和平发生在单一目的的超人工智能之间或有单一目的的超人工智能和有自我限定逻辑的人工智能之间，结局只能够是一方获胜或玉石俱焚。只要当都是有着自我限定逻辑的人工智能共存才会产生政治，接受战时平衡。但是，一旦“玉石俱焚”的约束解除，和平就会继续。

随着人工智能、基因编辑、脑神经迷信的发展，我们也许会出现人机交融的“赛博格人”、经过深度基因改造的“天然人”、将人脑看法上传计算机的“人机器”等新型智慧生命体。“赛博格人”终将从初级的肢体和器官替代演进为人工智能安装对人脑的功能加强以及人脑对机器的看法控制。

从人本主义的立场出发，我们会哀叹人的边界正在变得模糊化，兽性正在走向终结，但王志强以为，这恰恰是人类政治在人工智能时代继续存续的独一途径。自然人的终结或无法避免，但自然人的政治却能够被延续，这些新智慧生命之间构建的政治次序会不同于纯硅基强者工智能的“单一”与“共存”两极，有能够构成一个多元智能生命体的“共和”形状。

人工智能的愿望是跟无机生物一样，以个体生活和种族繁衍为基本的吗？

首都师范大学政法学院哲学系的讲师王嘉点评道，王志强在讨论“政治何以能够”的时分，归结了三个要素，其中，群居必需和普遍的政治智慧比较好了解，但是对于暴力惩罚这一点则没太展开。什么行为会构成人类对人工智能的惩罚呢？比如给人工智能断电算不算一种惩罚？给人工智能限制举动自在算不算惩罚？

此外，报告里假设单一目的的人工智能会把程序的扩张作为本人的愿望，那么，人工智能的愿望到底是什么呢？实践上，这里将人工智能的愿望和人的愿望做了一个类比，由于无机生物的愿望是个体生活和种族繁衍，人工智能的愿望也成了这样子，有一种自我扩张性，其实这个成绩是很值得讨论的。

而把有自我限定逻辑的人工智能当作一种理想的人工智能，这在科幻作品里有许多讨论。比如《异形：契约》外面的人工智能叫大卫，大卫是一个具有爱和和平的追求的人工智能，但是它发现爱和和平最大的敌人就是人类，所以它支持消灭人类。所以这阐明有自我限定逻辑的人工智能在逻辑自洽的状况下也能够做出不利于人类的判别。

《异形：契约》剧照

张志强回应道，那我们该怎样去想象人工智能的愿望呢？一旦假定它是有愿望的，我们没有办法从其他角度去想象它的愿望。独一的能够是从明天看到的计算机病毒里想象，计算机病毒也是以不断复制和防止被删除作为它运转的某种机制、准绳和动因的，所以人工智能以本身存续为基础的准绳可以被建立起来的。而有自我限定逻辑的人工智能是假设的一种最理想的形状，那样的话人们会被当成宠物圈养起来。

华东师范大学政治学系教授吴冠军回复道，这个论文非常恢宏，从古典政治哲学讲到后人类政治哲学，非常原创和有科幻感。但是，成绩在于政治是离不开话语的（discourse），至少是离不开各种各样的概念的。那么，在人工智能和人工智能的政治外面，它们该怎样安顿这些话语呢？

张志强回答道，他只是想象了当有许多人工智能的时分，它们又能够构成一种资源竞争或者某种妥协平衡的关系，相似于人类政治。人类政治是必需要有协作的，人工智能并没有，它们只要生死之差：要不一同死，要不暂时中缀和平。它们没有混合形状就共存了，从这个意义上，它们不太能够在政治上建构些什么东西，它们主体间的协作不是必要的，这对它们来说是一种例外形状。

撰文|徐悦东

编辑|宫子

校正|翟永军