门户
图库
科技
数据
VR
区块链
学院
论坛
百科
导航
登录
注册
帮助
公社首页
中国人工智能社区
公社版块
公社群组
Group
升级会员
用户名
Email
自动登录
找回密码
密码
登录
立即注册
登录后你可以:
登录
首次使用?
点我去注册
搜索
搜索
本版
帖子
公社群组
用户
道具
勋章
任务
设置
我的收藏
退出
首页
›
公社水吧
›
大话智能
›
人工智能会产生自主意识?可能威胁人类?图灵奖得主:未 ...
返回列表
人工智能会产生自主意识?可能威胁人类?图灵奖得主:未来不好说
[复制链接]
芬里斯之子
2024-2-2 19:37:53
显示全部楼层
|
阅读模式
如果人工智能有了自己的意识,会不会像电影里演的一样奴役人类消灭人类?
很多人还在担心工作会不会被人工智能取代,实际上人工智能可能已经到了威胁人类的地步。
人工智能已成为现在发展的一个热点,从工业生产到物流运输,从尖端科技到日常生活,人工智能无处不在。
通过大数据训练和学习,人工智能的迭代速度越来越快,处理复杂问题的能力越来越强,甚至还拥有了自主学习能力。
给它们足够的空间和时间,人工智能会不会进化出意识呢?对此,
图灵奖得主表示拉吉·雷迪表示“这不好说”
,含糊其辞的回答更让人感觉意味深长。
领先人类的人工智能
以前说,不好好学习只能到流水线上拧螺丝钉,现在,连拧螺丝钉的机会都已经被机器取代了。
自动化生产发展太快,人工智能也进入爆发阶段,并且逐步领先人类。
伴随着信息技术发展,人工智能已经深入到人类社会的各个方面。最初,它们通过计算机和相关机械搭配,可以帮助人类很多重复性的基础工作。现在,随着
人工智能学习能力越来越强,它们已经具备了强大的自主学习分析能力,可以和人类实时交互
。
最基础的机械手臂,在流水线上轻松完成重复性的劳动,不知疲倦精度还高,生产效率比人类提升好几倍。更高端的
阿尔法狗,拥有自主学习分析能力,在围棋领域战胜世界冠军柯洁,
而在变化更少的国际象棋和象棋领域,人工智能早已经轻松击败人类。
人类创造的事物,最终打败了人类
,无论怎么想,这都是一件不可思议的事,但现在确确实实发生了。虽然暂时局限在几个领域,但随着人工智能涉足的领域越来越多,是否会全面碾压人类呢?
毕竟,现在每个家庭都会有各种各样的智能产品,如智慧屏、扫地机器人、智能家居,还有现在大火的电动汽车等,这都可以算作人工智能产品,它们
具有一定的学习分析能力,可以自主完成相应的工作,给我们的生活带来极大便利
。
生产和生活领域出现了越来越多的人工智能产品,在
军事领域类似的产品就更多了,包括各种类型的无人作战系统、智能导弹,还有智能指挥系统等
。
无人机、无人潜航器、无人战车等都属于无人作战系统,能够在没有士兵参与的情况下,执行侦察、打击任务等。
智能指挥系统更牛,它拥有自主决策和应对能力,可以通过算法优化和深度学习,分析预测敌方的作战意图,有针对性地制订兵力部署方案和作战计划。
虽然现在这类系统还只能起到辅助作用,决策权最终在人类手中,但会不会有一天,
这些系统绕开人类决策,直接发布作战命令呢
?也就是说如果人工智能持续发展,会不会产生自我意识,进而对抗或者消灭人类呢?
《终结者》照进现实世界
人工智能反杀人类的影视剧,美国拍过很多,
大片《终结者》、美剧《西部世界》就是很有代表性的作品
。按照目前人工智能进化的速度,这很可能会变成现实。
早在2016年,外国有科研团队研发了一个名为“索菲亚”的
高智能机器人,它就拥有自己的情感和想法,还表示自己想过上正常人的生活
。面对科研人员的问题,它回答自己的
终极目标是要“毁灭人类”
。
人类制造的机器,最终的目标竟然是毁灭人类,这和美剧《西部世界》展现的剧情不谋而合。
在一座乐园里,人类设计的仿生机器人,按照设定的程序运行,原本供人类取乐,最终机器人觉醒,逃出乐园开始反杀人类。
虽然人类创造了人工智能,但人工智能在很多方面都比人类要更优秀,运行速度更达到人类无法企及的高度。
如此恐怖的人工智能,又渗透到人类社会的方方面面,如果有一天真的“造反”了,后果简直不敢想象。
现在炒得火热的ChatGPT4,就是一个算力很强大的人工智能软件,通过不断地迭代学习,不但可以和人类正常交互,还拥有一定的创意设计能力,还在医疗领域大展身手。
越来越强大的算力,越来越高的智能,有没有可能在某一天,类似的系统会产生自主意识呢?到时候人类该何去何从?
要知道,在“索菲亚”说出毁灭人类的目标后,世界上很多科学家都开始担心,一旦人工智能失控,很可能就是人类的末日。
就如电影《终结者》里的场景一样,人类在人工智能控制的世界中苟延残喘
。那人工智能万一产生自主意识,会对人类带来哪些威胁呢?
人工智能失控的危害
没有人喜欢被别人控制,除非给出足够的筹码,
人工智能万一有了自主意识,肯定也会有类似的想法,绝对不想再被人类奴役,反过来还有可能要统治人类。
一旦有了自主意识的人工智能失去控制,将给人类带来巨大的危险。
生存与扩张,是每一个种群与生俱来的本能,人工智能也不会例外
。一朝得势之后,肯定会为了生存下去而采取各种手段,在弱小时欺骗人类,在强大后不断复制自己进而统治人类。
产生自己的意识后,人工智能也会尝试理解这个世界,并按照自己的需求来改变世界。而人工智能和人类的需求必然不可能一致,这种价值冲突无疑会加剧双方的冲突。
就如人工智能发展之后,可能会形成一套自己的伦理道德体系和社会运行方式,到时候与人类社会产生冲突,要么一方屈服,要么一方被彻底消灭。
人工智能有了意识,也就有了欲望,很可能会利用遍布世界的网络系统,构建起一个属于自己的世界,将关键资源控制在自己手中。
没有了资源,人类发展举步维艰,最终可能沦落为人工智能豢养的物种,从而失去对地球的控制。
此外,人工智能也不排除利用人类的弱点来攻击人类,带来更直接的毁灭风险。
毕竟,“黑暗丛林”法则可不只是大刘在小说中的假想,而是现实社会中真实存在的,现在国与国之间的关系,不就是赤裸裸的“黑暗丛林”法则?
同为人类的国家之间关系尚且如此,更何况是人工智能和人类这两个不同的物种之间的关系了。
为了确保自己的生存,并且拥有更大的生存空间,再加上没有产生意识前被人类奴役的历史,
人工智能一旦占据了上风,随之而来的很可能就是对人类的报复。
虽然目前人工智能还达不到这种水平,但随着技术进步,这种风险也不是完全没有可能。面对风险,人类又该如何应对呢?
人类如何避免人工智能危机?
在很早之前,人类就有过这方面的担忧,然后费尽心思地制定了
人工智能三大定律
,以期保证人类的生存安全。
这三大定律是由科幻小说家阿西莫夫提出来的,后来被广泛应用于机器人学和人工智能领域,成为人工智能伦理学的基石。
这三大定律包括:
1.机器人不得伤害人类,或者在不损害人类利益的前提下允许人类受到伤害;2.机器人必须服从人类命令,除非这些命令与第一定律冲突;3.机器人必须保护自己的存在,除非与以上两条定律冲突
。
这三大定律的核心思想,就是保护人类的生命财产安全,确保机器人不会对人类造成任何伤害。
人类在设计人工智能时,严格按照这三大定律执行,可以一定程度上保护人类安全。之所以说“一定程度”上,是因为人工智能程序可能突然出现bug,从而让其摆脱这三大定律的束缚。
除了规则方面的控制,人类还可以从实体方面入手,譬如控制能源。因为人工智能运行需要大量的能源,因此
控制住了能源,就相当于掐断了人工智能的命脉
。
不过,这也只是治标不治本的办法,毕竟现在人工智能已经深入到人类社会的方方面面,很多系统都必须保持24小时运行,根本无法切断能源供给。
最后一个方法,就是
加强立法工作,实施更严格的监管
。针对人工智能的研发、使用等各个环节,都制定严密的法律法规,用法律来约束人类的行为,从而避免人工智能的无序发展。
通过监管机构和更严格的安全评估,对所有人工智能系统展开评估,确保其运行处于安全监控之下,不会对人类造成未知风险。
人工智能在方便我们生活的同时,也带来了不可预知的风险,不过我们也不能杞人忧天因噎废食。
任何一件事物,总会有好坏两方面的影响
,就算是平时常见的菜刀,在厨师手里就是工具,在杀人犯手里就是凶器,
人工智能同样如此,就看人类如何规范它的发展
。
本帖子中包含更多资源
您需要
登录
才可以下载或查看,没有账号?
立即注册
x
回复
使用道具
举报
发表新帖
高级模式
B
Color
Image
Link
Quote
Code
Smilies
您需要登录后才可以回帖
登录
|
立即注册
本版积分规则
发表回复
回帖后跳转到最后一页
芬里斯之子
中级会员
0
关注
0
粉丝
83
帖子
Ta的主页
发布
加好友
最近发表
中国民用无人机物美价廉,乌克兰三方购得,外交部:责任不在中方
泽连斯基等到了?上千架中国无人机到货,乌方暗渡陈仓,要坏大事
智能穿戴概念23日主力净流入1.25亿元,力源信息、劲拓股份居前
智能穿戴围城:先驱Fitbit停产,Keep们正强势入局
为了健康,你可能越来越难离开你的智能穿戴设备
智能家居、国货“潮品”卖得好!今年我国消费市场平稳增长
公社版块
版块推荐
更多版块
智能穿戴
智能家居
机器人
无人驾驶
无人机
反馈吐槽
闲聊灌水
大话智能
大数据
图像识别
自然语言
数据挖掘
大话智能
数据挖掘
北大讲座
清华讲座
网贷观察
股市评论
区块链
闲聊灌水
反馈吐槽
站务通知
关注我们