谁在害怕人工智能：AI带给人类的三大应战

“当我看到柯洁在围棋比赛中负于机器时痛哭的画面，感到些许悲哀。作为世界顶级的围棋选手，他却被机器人击败了，并且在赛后说‘我回去让机器复盘检查错在哪里’。过去他只需本人复盘，而如今，机器会立刻指出他的错误。这阐明，机器与人力已不处于同一段位了，在机器面前，人类好像孩童普通。机器教给人类最后级的下法，而其本身的下法人类已不可了解。”

“其他行业也面临异样的成绩。假如机器学会作诗作曲，做出我们普遍喜欢的产品，那人类的生活就将完全改变。可以想象那个时代，杜甫将是极多数学院派研讨的对象，由于机器曾经影响了我们对音乐、美术、戏剧表演的爱好，我们会喜欢机器让我们喜欢的产品。”冯象对人工智能深入改变人类生活的分析引发了现场观众的沉思。

世界排名第一的围棋棋手柯洁对战“阿尔法狗”

“我是阿尔法，机器人说，我是人工智能（AI）。人哪，你们预备好没有？”冯象在2018年出版的《我是阿尔法——论法和人工智能》中写道。曾经看上去属于将来、属于科幻的人工智能曾经深度地介入到我们的生活，带来了严峻且不可避免的应战，将来曾经离开，一切皆有能够。

4月20日，在文汇讲堂暨华东师大第五届思勉人文思想节时期，主办方约请清华大学梅汝璈法学讲席教授、哈佛文学博士、耶鲁法学博士冯象举行了一场“谁害怕人工智能”的讲座，冯象从法律的角度切入，分析了人工智能的如今与将来。

清华大学梅汝璈法学讲席教授、哈佛文学博士、耶鲁法学博士冯象

“我”的隐私将变成“他们”的财产

传感器、刷脸支付、大数据......随着人工智能的发展，人们的个人隐私变得无处可隐、无法可隐，这也成为人工智能带来的首要应战。机器智能如此普遍，以致于每个人的行为、习气、爱好和信誉表现等被忠实地记录着，在这背后触及的法律成绩就是个人的隐私权。

隐私权是一项非常重要的法律权益，在美国，隐私权被确立为宪法上的基本权益，而中国正在编纂的一致《民法典》也将隐私权视为一项重要的民事权益。在如今的理想中，个人隐私权却正在消逝，而且由于机器智能的便利性，使得对其的维护也相当困难。“我们为什么需求隐私？我的客户很乐意把隐私交给我们，由于我们的服务能给他们带来不可顺从的便利。”冯象援用了脸书（Facebook）创始人马克·扎克伯格（Mark Zuckerberg）的言论来阐明这种困难性。

与知识产权制止别人随意复制或运用相反，人工智能的商业形式是用便利的产品和服务，去换取开放的、收费的个人信息。商业形式的本质基础是对价买卖，而我们与各种app签署的协议使得我们付出的对价就是个人信息。个人数据被企业获取，用于建立数据库，再转卖给第三方或者用于其他用途，例如开发新产品等等，被称为“数字利维坦”（意指其应用数据停止独裁统治）的脸书层出不穷的数据丑闻就是一个分明的例证。

扎克伯格出席脸书数据泄露事情听证会

在信息时代，数据成为一种重要资源，其所包含的宏大价值令业界希望将其财产化，数据的财产化将使得多数企业获得难以估量的财富。虽然如今还没有对数据财产化停止立法，但它在理想上曾经是财产了，由于它是个人与网络平台买卖的标的物。但冯象对此提出了一系列的质问：“试想，若将数据财产化，那数据的原始主人是谁？难道不是我们每一个人吗？难道数据不是我们的财产吗？若是这样思索，脸书就无法运营了，由于它需求与几亿人签署合同。”

不得不接受的“硬规则”

人工智能带来的第二大应战，是将我们原有的社会规则体系转变成“硬规则”体系。“中国的马路中间通常都设有一排铁栅栏，用于分隔两个车道，它强迫车辆必须在它本人的那条车道里行驶，不得越界。”冯象用一个生活中的现象来解释什么是硬规则。

手机硬规则经过用户点击“赞同”进入系统，之后会显示一份字体较小、内容复杂的授权合同，几乎一面倒地将权益给予了运营商。冯象将这份授权合同称为“谁都看不懂的”合同，引发了观众有些无法的笑声。这种单方面为用户制定的规则，它的逻辑非常简单——要么赞同，要么不用，用户为了可以运用并得到便利，普通都会赞同。

某APP隐私政策

整个法律制度实践上被人工智能引领着走向了硬规则体系的方向，比如阿里巴巴这样的企业，如今已拥有非常成熟的纠纷处理机制，政府也与之合作建立了互联网法律。这令人感到无比害怕和忧虑，由于这将导致资本力气过于弱小。从中国的国情与党和政府的立场来看，立法必须回应民众的要求、呼声与利益诉求，这也呼应了中国共产党为人民服务的宗旨。但是，假如规则的制定权大量落入企业手中，其结果就大为不同了。

硬规则的制定权越来越多地归于商家，将使贫富差距迅速扩展。冯象将旧富豪洛克菲勒家族与新贵扎克伯格停止比较，扎克伯格在短短的几年中就可以积累起前者几代人才可以积累的财富。

网络技术、网络产业极大地推进了社会的阶级分化，这是全世界都有的一个大成绩，去年的“基因编辑婴儿”事情就引发了社会对于这一成绩的担忧。在利益的驱使下，占有技术优势的相关企业势必不遗余力地攫取财富和权利，而资本在市场博弈中具有相当的自觉性，正如马克思所说：“为了100％的利润，资本就敢践踏一切人世法律；有300％以上的利润，资本就敢犯任何罪行，甚至去冒绞首的风险。”

微软小冰：要是能重来，我也不做李白

2017年，微软（Microsoft）开发的人工智能少女小冰创作的诗集《阳光失了玻璃窗》出版，吸引了许多人的关注，她还曾多次匿名给杂志报纸投稿，被《长江诗刊》《北京晨报》《信报》等刊载。但是，仍有许多人不看好小冰创作的诗歌，以为她不过是学习了五四以来的新文学，陈列组合消费出几句“诗”而已，与李白、杜甫相比则是天差地别。

《阳光失了玻璃窗》，作者：小冰，出版社：北京结合出版公司，2017年5月。

但冯象指出，微软研发小冰的意图并非是让她成为李白、杜甫，正如AlphaGo团队研讨围棋并非是出于对围棋的热爱，华为研发5G产品也不是想成为爱因斯坦或牛顿，他们的根本目的只要一个——占有市场。

因此，小冰下一步如何停止商业化发展，商业化之后如何改变我们与下一代对诗歌、文学以及艺术的感受，才是需求关注的大成绩。微软小冰团队以及竞争者们或许曾经在基因层面探求人类对文学和音乐的感受，以研发出能改变人类认知和爱好的产品，改变人机关系。“我将其称作较为终极的应战，由于它改变了生命的意义。”冯象对最后一大应战的总结振聋发聩。

不断以来，无论迷信技术如何发展，政治朝代如何更迭，自远古留传上去的宗教、伦理、法律、商业等方面的人类生活基本都存在共识。如今，今后的发展却能够无法预测，由于人类内心最深处的一些爱好和习气，以及智力所能投放的范畴将被取代。

但冯象在回答观众发问时异样指出，人类最传统的范畴，比如宗教，能够是人工智能无法涉足的，由于机器不需求宗教。再如人本身对人的依赖和伴侣的需求，正如马克思所说：“人是社会关系的总和”，人在这方面的需求能够是人工智能无法替代的。

资本主义因AI而灭——共产主义的将来

人工智能提供的便利和规则正在温水煮青蛙式地将人类逼至无法反抗的地步，在《我是阿尔法》一书中，冯象提出了两种能够的最终处理方案：一是彻底知识产权化的暴政，二是数据国有化。“人类假如因AI而亡，一定是拜资本主义所赐；资本主义假如因AI而灭，则机器人必已看法了真理。”

《我是阿尔法——论法和人工智能》，作者：冯象，出版社：中国政法大学出版社，2018年10月

财富的高度集中必定会诱使更多民主和硬规则的普遍约束，就像法西斯专政普通。相反地，随着政府部门越来越深地介入商业活动，最终每次商业买卖都必须由第三方政府参加，市场经济就会逐渐转变为计划经济。而且随着机器的大规模出现，分工不再重要，能够会完成共产主义。

列宁曾说，人类将按照迷信的提高程度来接受共产主义，共产主义在迷信技术不发达的状况下是无法完成的。1960年代，一位苏联数学家提出综合数学模型，讲解 计划经济成功与失败的能够性，并获得了诺贝尔经济学奖。冯象受此启示，以为计划经济并非过去式，只不过不合适科技欠发达的时代。但当人工智能大量投入运用时，它将解放人们休息的双手，计划经济的计划将非常完善，人类从此进入自在发展的必然王国。

但在进入公有制社会之前，我们还需对人机关系、人机伦理等停止研讨和规范。当机器智能高度发展时，它将远远超过人类的知识、判别力甚至道德选择，那么让机器获得正确的智能而不是对人类有害的智能就尤为重要了。社会应该让科研遭到强有力的伦理和法律的约束，减少错误，以降低人类的安全风险。

机器必须了解人类美妙生活的含义，才能协助我们完成共产主义。那么，谁来教育人工智能，怎样教育人工智能？冯象以为中国革命给了我们答案。毛主席撰写的《纪念白求恩》一文写道：“白求恩是毫无无私自利之心的人，是纯粹高尚的人”。白求恩的理想人格可以给人机关系做出榜样，让人工智能更好地为人类服务。

作者：新京报记者 徐悦东 实习生 李颖

编辑：沈河西 校正：翟永军