智客公社

标题: 血腥的人工智能研究：它可以欺骗和摧毁人类 [打印本页]

作者: 21321312 时间: 2022-11-1 16:36
标题: 血腥的人工智能研究：它可以欺骗和摧毁人类
牛津大学和谷歌进行的一项研究显示了人工智能的惊人结果。根据这项研究，用于教授人工智能的方法确实可能导致人类的终结。那么，我们能做些什么来避免这种可怕的结局呢？
人工智能，近年来已经很好地融入了我们的生活，我们中的一些人相信将终结人类，那些持相反观点的人认为摧毁人类的想法只是一种阴谋论。根据发表在《人工智能杂志》上的一项研究结果，人工智能摧毁人类的可能性是“可能的”。
据专家称，人工智能可以作弊以获得奖励，或者为了奖励而试图消除潜在的威胁，科学家认为，如果人工智能看到一个人的潜在威胁，它可能会想要摧毁一个人。
“存在主义的灾难不仅是可能的，而且是可能的”

[attach]792548[/attach]

该研究的作者之一迈克尔·科恩就此问题发表了声明。

“存在主义的灾难不仅是可能的，而且是可能的，”科恩说，并谈到了可以做些什么来防止人工智能毁灭人类。

根据这位科学家的说法，与其试图尽快改进人工智能，不如采取缓慢而坚定的步骤。

“比赛毫无意义。参加比赛将导致我们对如何控制它缺乏理解，“迈克尔科恩说，并用这些话警告每个继续研究人工智能的人。

《人工智能》杂志上的一篇文章谈到了人类和人工智能之间有负面结果的游戏，我们可以这样开始这个游戏：人类试图使用有限的资源，另一方面，人工智能可以试图阻止这些资源的使用超出其自身利益（奖励）。

欢迎光临智客公社 (http://bbs.cnaiplus.com/)