请选择 进入手机版 | 继续访问电脑版
 找回密码
 立即注册
搜索

人工通用智能发展带来的潜在问题和威胁

人工通用智能发展带来的潜在问题和威胁-1.jpg

从数字语音助手到智能家居设备,人工智能(AI)已经迅速成为我们日常生活中不可或缺的一部分。这一事实并没有逃过国内外相关机构的注意和觊觎。

多国的安全部门和政府机构,例如美国国防部认识到人工智能在改变战争性质方面可能发挥的作用,最近呼吁提出建议,设想人工智能将如何改变战场上的决策。与此同时,欧洲已经出版了一套关于未来战争的短篇小说,而俄罗斯都在为国家安全目的对人工智能进行大量投资。

所有这些都表明,人工智能有可能在未来的冲突中发挥关键作用。但是,人工智能的下一个阶段呢:人工通用智能(AGI)?AGI被定义为智能代理理解或学习人类可以完成的任何智力任务的能力,AGI有可能做到从驾驶汽车到执行复杂手术的一切,其水平始终高于人类。如果它落入坏人之手或由无赖国家开发,它也可能代表着巨大的公民和政府设施的安全风险。

虽然该领域的一些专家预测AGI可能需要数百年才能出现,如果它真的出现的话,我相信AGI不仅是不可避免的,而且可能在未来十年内出现。真正需要的是了解类人智能如何运作的洞察力。不过,为了达到这个目的,研究人员必须将他们的注意力从使用不断扩大的数据集来支持人工智能,而是集中在一个更具有生物合理性的结构上,使人工智能表现出与人类一样的上下文、常识性理解。

为此,考虑一下人类的大脑是如何工作的。新皮质(我们用来思考的大脑部分)的结构和定义其结构所需的DNA数量可能只需要7.5兆字节的数据。我们已经产生了大规模的程序,可以比人类更快更准确地处理和分析大量的数据,因此创造一个小到7.5兆字节的AGI程序是可以无限地做到的。同样,大脑中负责肌肉协调的部分已经在今天最好的机器人系统中得到了很大程度的复制,这表明几个微处理器(加上对大脑工作原理的洞察)就能完成数十亿个神经元的工作。

简而言之,我们可能已经拥有足够的计算机能力来实现AGI。所缺少的只是对人脑如何工作的洞察力,许多研究人员正在研究这个问题--不一定是为了AGI,而是为了它将带来的医学进步。



人工通用智能发展带来的潜在问题和威胁-2.jpg



今天的人工智能已经可以超过人类的心理表现。但在任何3岁儿童都能擅长的领域仍有不足:如理解物体的持久性、三维环境、因果关系和时间的推移。这一直是迄今为止大多数AGI研究的一个症结所在。让我们面对现实吧,即使研究人员具有复制3岁儿童意识工作方式的洞察力,3岁儿童通常还需要20年左右的时间才能拥有知识和理解力,成为功能齐全、合理的智能人。研究人员根本不想等待20年。

这解释了为什么AGI的出现可能是渐进的。一路走来的每一步都会创造出看起来像好主意的能力,因此是可以单独销售的。一个帮助Siri或Alexa减少语音识别错误的进步出现了,该开发被匆忙推向市场。另一项进展产生了更好的视觉效果,使自动驾驶汽车更加安全,这项开发也被匆匆推向市场。

虽然这些发展中的每一项都可以单独上市,但如果它们建立在一个共同的底层数据结构上并相互连接,它们就可以开始互动并建立一个更广泛的背景。这样做将使我们能够逐步接近AGI。在某些时候,我们将接近人类水平的阈值,然后等于这个阈值,然后超过这个阈值。在那一刻,我们将拥有明显优于人类智能的机器,人们将开始同意,是的,也许AGI确实存在。

AGI将必然是目标驱动的系统。在一个理想的世界里,负责这些会思考的机器的人将确保为AGI设定的目标包括足够的保障措施,以便后续的操作是安全的。但是,如果一个强大的AGI系统的第一个主人是一个世界大国,如俄罗斯或其他潜在黑客组织或者更糟糕的是一些恐怖,跨国犯罪组织,那该怎么办?虽然我们将能够对初始AGI的动机进行编程,但我们无法控制拥有它们的人甚至是公司的动机。

人工通用智能发展带来的潜在问题和威胁-3.jpg

这是一个特别可怕的提议。在军事方面,计算机将处于建议战略、提出武器系统和评估竞争弱点的位置。虽然计算机不可能绝对控制武器系统,但同样不可能在任何重大决策中置身事外。在涉及大量信息的决策中,必须对多个变量进行平衡和预测,计算机的能力将使它们成为卓越的战略决策者。
虽然这样的情景足以令人震惊,但我认为更大的威胁来自于我们的计算机左右舆论或操纵市场的能力。我们已经看到了通过社交媒体控制选举的努力,而AGI系统将使其更加有效。我们已经有了受程序化交易摆布的市场,而AGI将扩大这一问题。我们已经有黑客使网络安全成为重大威胁,而AGI在攻击较小的计算机系统方面也可以做得更有效率。
套用核威慑和NRA的概念,阻止坏AGI的最好方法是用一个好的AGI。由于AGI是不可避免的,而且比大多数人想象的要早,相关国家或者组织会为更广泛的AGI发展付出巨大努力,而不是希望狭窄的AI系统有一天会 "一起成长 "为通用智能的草率做法。仅仅出于市场和技术安全的考虑,各个国家和组织现在大力并希望率先创造AGI。
回复

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册