请选择 进入手机版 | 继续访问电脑版
 找回密码
 立即注册
搜索

“潘多拉魔盒”打开了!在利比亚,军用无人机自动攻击了人类:机器人三定律能够守不住了

科幻作品中AI有自主看法的一幕似乎正在出现。
据多家媒体报道,结合国利比亚成绩专家小组日前发布的一份报告称,在2020年3月利比亚民族勾结政府与哈夫塔尔指导的军队发生战役时期,土耳其制军用无人机自主追捕、攻击了人类。

“潘多拉魔盒”打开了!在利比亚,军用无人机自动攻击了人类:机器人三定律能够守不住了-1.jpg

KARGU-2(卡古2号)。图片来源:STM公司官网

报告中写道:“哈夫塔尔的军队在撤离时,遭到了无人机KARGU-2(卡古2号)等致命自主武器系统以及其他巡飞导弹的追捕和远程攻击。”

美国国防大学研讨员扎卡里·卡伦伯恩在《原子迷信家公报》上写道,“假如有人在自动袭击中丧生,这很能够是历史上已知的首个运用基于人工智能的自动武器停止杀人的案例。”

军用无人机技术上早已可以自主攻击

无人机参加军事举动并不鲜见。2020年阿塞拜疆和亚美尼亚之间45天的纳卡和平中,阿塞拜疆军队运用的土耳其产TB-2无人机和以色列Harop自杀式无人飞机就已大出风头。但这些军用无人机都由后方人员操控,而非自主举动。

而结合国这份调查报告称,KARGU-2这种“致命的自主武器系统被编程来攻击目的,而不需求操作员和弹药之间的数据衔接,机上装载炸药,可以对目的停止自杀攻击,并且在撞击时引爆。

这等于是说KARGU-2疑似成了“杀人机器人”。

KARGU-2制造商土耳其STM公司的材料似乎变相证明了结合国报告的判别。该公司称,无人机可以运用“机器学习”和“实时图像处理”来对付目的。

材料显示,这款无人机的传感用具有现象辨认或人脸辨认功能,可由地面控制人员停止控制,或自主杀伤,并可以组成编队展开“蜂群”攻击。

俄罗斯媒体援用无人机范畴专家的话说,无人机自主决议猎杀有生力气,这在技术上是可行的,出现这种状况也仅是工夫成绩,关键是,哪个国家会第一个打开这个“潘多拉魔盒”。

冲击“机器人三定律”

当然,也存在另一种能够:在2020年3月利比亚内战的这场战役中,KARGU-2其实是由利比亚政府军在后方操纵的。

只是由于运用KARGU-2是公然违犯结合国决议的行为,所以干脆把责任推到了无人机自主攻击上,以免外交上被动。

根据结合国安理会1970号决议第9条,对利比亚内战单方是实施武器禁运的。决议要求一切会员国制止“直接或间接向利比亚民众国供应、出售或转让任何类别军火或相关军用物资,包括武器和弹药、军用车辆和装备、准军事装备及上述物项的备件”。KARGU-2是土耳其制造,运用归运用,但运用者未必想渲染此事。

但假如的确当时发生了无人机自主攻击人类的事,成绩就严重了。

著名科幻作家阿西莫夫在1950年出版的小说《我,机器人》中描画人工智能的世界时,提出了“机器人三定律”。即机器人不得损伤人类个体,或者目击人类个体将遭受风险而袖手不管;机器人必须服从人给予它的命令,当该命令与第一定律冲突时例外;机器人在不违犯第一、第二定律的状况下要尽能够保护本人的生活。

后来,“机器人三定律”被公以为确定了人类和AI的基本关系。其不只为后世的《终结者》《黑客帝国》等一系列科幻作品提供了灵感,也成为人类发展AI技术的守则。

古代军事技术发展绝非只要军用无人机可以经过传感器自动锁定并攻击目的,热战以来,其他类别的致命武器都在研讨开发中,远远走在了民用后面。
其实,不管无人机自主攻击人类一事是真是假,结合国的这份报告都在提示人们:将来,“机器人三定律”终究能不能守得住,还要划个大大的问号。

没有有效的国际法可以制约

与核武器不同,像军用无人机这样的武器很容易制造和流通。假如AI在军用无人机这样的装备上得到有限拓展运用,无人机可以更快地自主学习的时分,国际安全体系将面临宏大风险。

核武还有《核不分散条约》的制约,全球绝大多数国家都加入了这一条约,而对军用无人机这样的致命武器,目前没有有效的国际法能制约。

其实国际社会有识之士也做过努力。上世纪90年代,结合国《特定常规武器公约》失效,后来有识之士希望把伴随科技发展出现的新型致命武器归入其中。2018年,结合国召集开过《特定常规武器公约》会议,88个国家和地区的代表在会上就“致命自主武器系统”达成了10项“能够的指点准绳”。

其中第二项规定:“人类必须保留运用武器系统的决策责任,由于责任不能转交给机器。”但这个公约只是倡导,没有约束力。美国、澳大利亚等国还阻止就禁用“杀手机器人”达成具有法律约束力的国际公约。
从这个角度看,“致命自主武器系统”在将来带给人类的风险,其实是人类带给本人的。我们对将来科技的等待,不应该包括这种风险。

□徐立凡(专栏作者)

编辑:马小龙 实习生:叶可慧 校正:赵琳
回复

使用道具 举报

大神点评19

Qiaoyi13143399 2021-6-10 15:30:13 显示全部楼层
我是做测绘无人机的,觉得可笑!
回复

使用道具 举报

hawkxjk 2021-6-10 15:33:57 显示全部楼层
机器人武器和其它武器不是一样的吗?毕竟菜刀不会本人跳起来砍人。
回复

使用道具 举报

风语者竹轩 2021-6-10 15:45:35 显示全部楼层
笑死了,机器人三定律只是科幻小说里假定的将来人类制造机器人一种能够的商定。如今的军用无人机100%不能够内置这三定律啊,不然怎样杀人。
回复

使用道具 举报

xhl396380909 2021-6-10 15:49:12 显示全部楼层
AI对过学习会变成母体
回复

使用道具 举报

肥仔哥哥 2021-6-10 15:52:16 显示全部楼层
机器人三大定律本来就是个笑话
回复

使用道具 举报

wangdaxia7 2021-6-10 15:52:37 显示全部楼层
成绩的关键是,不论你是AI机器还是手动机器,我方可以立刻有效切断或阻断你的信息源,刚飞过来的飞机,让你变成无头苍蝇,并拆卸炸弹,无人机给孩子们玩[呲牙]
回复

使用道具 举报

xzb800920 2021-6-10 15:59:25 显示全部楼层
天网快要成型了
回复

使用道具 举报

人工智能背锅?
回复

使用道具 举报

纳兰契 2021-6-10 16:15:31 显示全部楼层
从宇宙生命退化的角度来说,硅基文明必然会取代碳基文明,碳基生命毕竟太脆弱了。而硅基文明就要在碳基文明手中创建起来了。
回复

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册