门户
图库
科技
数据
VR
区块链
学院
论坛
百科
导航
登录
注册
帮助
公社首页
中国人工智能社区
公社版块
公社群组
Group
升级会员
用户名
Email
自动登录
找回密码
密码
登录
立即注册
登录后你可以:
登录
首次使用?
点我去注册
搜索
搜索
本版
帖子
公社群组
用户
道具
勋章
任务
设置
我的收藏
退出
首页
›
公社水吧
›
大话智能
›
人工智能会产生自主意识?可能威胁人类?图灵奖得主:未 ...
返回列表
人工智能会产生自主意识?可能威胁人类?图灵奖得主:未来不好说
[复制链接]
芬里斯之子
2024-2-2 19:37:53
显示全部楼层
|
阅读模式
如果人工智能有了自己的意识,会不会像电影里演的一样奴役人类消灭人类?
很多人还在担心工作会不会被人工智能取代,实际上人工智能可能已经到了威胁人类的地步。
人工智能已成为现在发展的一个热点,从工业生产到物流运输,从尖端科技到日常生活,人工智能无处不在。
通过大数据训练和学习,人工智能的迭代速度越来越快,处理复杂问题的能力越来越强,甚至还拥有了自主学习能力。
给它们足够的空间和时间,人工智能会不会进化出意识呢?对此,
图灵奖得主表示拉吉·雷迪表示“这不好说”
,含糊其辞的回答更让人感觉意味深长。
领先人类的人工智能
以前说,不好好学习只能到流水线上拧螺丝钉,现在,连拧螺丝钉的机会都已经被机器取代了。
自动化生产发展太快,人工智能也进入爆发阶段,并且逐步领先人类。
伴随着信息技术发展,人工智能已经深入到人类社会的各个方面。最初,它们通过计算机和相关机械搭配,可以帮助人类很多重复性的基础工作。现在,随着
人工智能学习能力越来越强,它们已经具备了强大的自主学习分析能力,可以和人类实时交互
。
最基础的机械手臂,在流水线上轻松完成重复性的劳动,不知疲倦精度还高,生产效率比人类提升好几倍。更高端的
阿尔法狗,拥有自主学习分析能力,在围棋领域战胜世界冠军柯洁,
而在变化更少的国际象棋和象棋领域,人工智能早已经轻松击败人类。
人类创造的事物,最终打败了人类
,无论怎么想,这都是一件不可思议的事,但现在确确实实发生了。虽然暂时局限在几个领域,但随着人工智能涉足的领域越来越多,是否会全面碾压人类呢?
毕竟,现在每个家庭都会有各种各样的智能产品,如智慧屏、扫地机器人、智能家居,还有现在大火的电动汽车等,这都可以算作人工智能产品,它们
具有一定的学习分析能力,可以自主完成相应的工作,给我们的生活带来极大便利
。
生产和生活领域出现了越来越多的人工智能产品,在
军事领域类似的产品就更多了,包括各种类型的无人作战系统、智能导弹,还有智能指挥系统等
。
无人机、无人潜航器、无人战车等都属于无人作战系统,能够在没有士兵参与的情况下,执行侦察、打击任务等。
智能指挥系统更牛,它拥有自主决策和应对能力,可以通过算法优化和深度学习,分析预测敌方的作战意图,有针对性地制订兵力部署方案和作战计划。
虽然现在这类系统还只能起到辅助作用,决策权最终在人类手中,但会不会有一天,
这些系统绕开人类决策,直接发布作战命令呢
?也就是说如果人工智能持续发展,会不会产生自我意识,进而对抗或者消灭人类呢?
《终结者》照进现实世界
人工智能反杀人类的影视剧,美国拍过很多,
大片《终结者》、美剧《西部世界》就是很有代表性的作品
。按照目前人工智能进化的速度,这很可能会变成现实。
早在2016年,外国有科研团队研发了一个名为“索菲亚”的
高智能机器人,它就拥有自己的情感和想法,还表示自己想过上正常人的生活
。面对科研人员的问题,它回答自己的
终极目标是要“毁灭人类”
。
人类制造的机器,最终的目标竟然是毁灭人类,这和美剧《西部世界》展现的剧情不谋而合。
在一座乐园里,人类设计的仿生机器人,按照设定的程序运行,原本供人类取乐,最终机器人觉醒,逃出乐园开始反杀人类。
虽然人类创造了人工智能,但人工智能在很多方面都比人类要更优秀,运行速度更达到人类无法企及的高度。
如此恐怖的人工智能,又渗透到人类社会的方方面面,如果有一天真的“造反”了,后果简直不敢想象。
现在炒得火热的ChatGPT4,就是一个算力很强大的人工智能软件,通过不断地迭代学习,不但可以和人类正常交互,还拥有一定的创意设计能力,还在医疗领域大展身手。
越来越强大的算力,越来越高的智能,有没有可能在某一天,类似的系统会产生自主意识呢?到时候人类该何去何从?
要知道,在“索菲亚”说出毁灭人类的目标后,世界上很多科学家都开始担心,一旦人工智能失控,很可能就是人类的末日。
就如电影《终结者》里的场景一样,人类在人工智能控制的世界中苟延残喘
。那人工智能万一产生自主意识,会对人类带来哪些威胁呢?
人工智能失控的危害
没有人喜欢被别人控制,除非给出足够的筹码,
人工智能万一有了自主意识,肯定也会有类似的想法,绝对不想再被人类奴役,反过来还有可能要统治人类。
一旦有了自主意识的人工智能失去控制,将给人类带来巨大的危险。
生存与扩张,是每一个种群与生俱来的本能,人工智能也不会例外
。一朝得势之后,肯定会为了生存下去而采取各种手段,在弱小时欺骗人类,在强大后不断复制自己进而统治人类。
产生自己的意识后,人工智能也会尝试理解这个世界,并按照自己的需求来改变世界。而人工智能和人类的需求必然不可能一致,这种价值冲突无疑会加剧双方的冲突。
就如人工智能发展之后,可能会形成一套自己的伦理道德体系和社会运行方式,到时候与人类社会产生冲突,要么一方屈服,要么一方被彻底消灭。
人工智能有了意识,也就有了欲望,很可能会利用遍布世界的网络系统,构建起一个属于自己的世界,将关键资源控制在自己手中。
没有了资源,人类发展举步维艰,最终可能沦落为人工智能豢养的物种,从而失去对地球的控制。
此外,人工智能也不排除利用人类的弱点来攻击人类,带来更直接的毁灭风险。
毕竟,“黑暗丛林”法则可不只是大刘在小说中的假想,而是现实社会中真实存在的,现在国与国之间的关系,不就是赤裸裸的“黑暗丛林”法则?
同为人类的国家之间关系尚且如此,更何况是人工智能和人类这两个不同的物种之间的关系了。
为了确保自己的生存,并且拥有更大的生存空间,再加上没有产生意识前被人类奴役的历史,
人工智能一旦占据了上风,随之而来的很可能就是对人类的报复。
虽然目前人工智能还达不到这种水平,但随着技术进步,这种风险也不是完全没有可能。面对风险,人类又该如何应对呢?
人类如何避免人工智能危机?
在很早之前,人类就有过这方面的担忧,然后费尽心思地制定了
人工智能三大定律
,以期保证人类的生存安全。
这三大定律是由科幻小说家阿西莫夫提出来的,后来被广泛应用于机器人学和人工智能领域,成为人工智能伦理学的基石。
这三大定律包括:
1.机器人不得伤害人类,或者在不损害人类利益的前提下允许人类受到伤害;2.机器人必须服从人类命令,除非这些命令与第一定律冲突;3.机器人必须保护自己的存在,除非与以上两条定律冲突
。
这三大定律的核心思想,就是保护人类的生命财产安全,确保机器人不会对人类造成任何伤害。
人类在设计人工智能时,严格按照这三大定律执行,可以一定程度上保护人类安全。之所以说“一定程度”上,是因为人工智能程序可能突然出现bug,从而让其摆脱这三大定律的束缚。
除了规则方面的控制,人类还可以从实体方面入手,譬如控制能源。因为人工智能运行需要大量的能源,因此
控制住了能源,就相当于掐断了人工智能的命脉
。
不过,这也只是治标不治本的办法,毕竟现在人工智能已经深入到人类社会的方方面面,很多系统都必须保持24小时运行,根本无法切断能源供给。
最后一个方法,就是
加强立法工作,实施更严格的监管
。针对人工智能的研发、使用等各个环节,都制定严密的法律法规,用法律来约束人类的行为,从而避免人工智能的无序发展。
通过监管机构和更严格的安全评估,对所有人工智能系统展开评估,确保其运行处于安全监控之下,不会对人类造成未知风险。
人工智能在方便我们生活的同时,也带来了不可预知的风险,不过我们也不能杞人忧天因噎废食。
任何一件事物,总会有好坏两方面的影响
,就算是平时常见的菜刀,在厨师手里就是工具,在杀人犯手里就是凶器,
人工智能同样如此,就看人类如何规范它的发展
。
本帖子中包含更多资源
您需要
登录
才可以下载或查看,没有账号?
立即注册
x
回复
使用道具
举报
发表新帖
高级模式
B
Color
Image
Link
Quote
Code
Smilies
您需要登录后才可以回帖
登录
|
立即注册
本版积分规则
发表回复
回帖后跳转到最后一页
芬里斯之子
中级会员
0
关注
0
粉丝
83
帖子
Ta的主页
发布
加好友
最近发表
重量仅4.21克!我国科研团队研发出太阳能动力微型无人机:在纯自
从几百到几亿美元,各类无人机已遍布战场,中国该如何应对?
航拍无人机怎么选?大疆无人机盘点推荐
比“顺丰双尾蝎”还强!国产11吨级无人机开建,又是全球第一?
大疆今天发布的无人机,让我觉得上天也没那么难
“彩虹”VS“翼龙”,中国军用无人机两大王牌,都各有哪些精品?
公社版块
版块推荐
更多版块
智能穿戴
智能家居
机器人
无人驾驶
无人机
反馈吐槽
闲聊灌水
大话智能
大数据
图像识别
自然语言
数据挖掘
大话智能
数据挖掘
北大讲座
清华讲座
网贷观察
股市评论
区块链
闲聊灌水
反馈吐槽
站务通知
关注我们