智客公社

标题: 结合国报告：史上初次，一军用无人机自主攻击人类 [打印本页]

作者: 舒学生 时间: 2021-6-9 10:30
标题: 结合国报告：史上初次，一军用无人机自主攻击人类
据英国《独立报》5月31日报道，一份结合国安理会最近的报告称，一架军用无人机在没有接到任何指令的状况下自主对人类发起袭击，这或为历史上初次。

在不断的预警声中，这一幕科幻电影里的场景最终在真实的世界里发生了。有人忧心忡忡——理想版“终结者”真的来了吗？

[attach]621418[/attach]

电影《终结者2》中的T-800终结者机器人。图据法新社

【结合国报告】

撤离部队遭无人机追捕及远程攻击

涉事无人机具有自主攻击才能

据悉，这一令人震惊的事情发生于2020年3月。

当时，利比亚政府军与利比亚国民军司令哈夫塔指导的军事权利发生冲突之际，一架土耳其军事科技公司STM消费的“Kargu-2”型无人机在未接到任何指令的状况下，袭击了利比亚哈夫塔尔国民军阵营的撤离兵士。

结合国相关报告中写道：“后勤车队和撤离的哈夫塔部队随后遭到无人驾驶作战飞机或STM kargu-2等致命自主武器系统的追捕和远程攻击。”

《独立报》征引STM公司引见，“Kargu-2”是一款多旋翼无人机，重15磅（约6.8千克），最高时速约90英里（145公里），续航工夫约30分钟，可携带3种1.36千克的重弹头——破片杀伤弹头，用以对付人员和轻型车辆；温压弹，用以对付建筑物和掩体；成型装药弹头，用以对付装甲目的。

[attach]621419[/attach]

土耳其军事科技公司STM的“Kargu-2”型无人机。图据《独立报》

这款无人机装备激光雷达、可见光相机和红外夜视仪，运用基于机器学习的对象分类来选择和攻击目的。“Kargu-2”型无人机还配有炸药、敌方辨识系统及面部辨认才能，可以寻觅特定的个人，是为“反恐和不对称和平场景”而设计的。

STM公司CEO伊肯奇称，这款无人机可人工控制，兵士可从6英里（9.7公里）外控制无人机发动攻击。也可以预设航线自主飞行，自主定位、跟踪和辨认目的。这意味着，在操作员未下达指令的状况下，“Kargu-2”的确具有自主攻击的才能。

此外，这款无人机还可应用摄像头和其他传感器经过地标导航，而不依赖GPS。而且，它们还具有群集才能，可以20架为一组停止协同作战。

结合国专家在报告中写道：“这种致命自主武器系统被编程为攻击目的，不需求操作员和弹药之间的数据衔接：实践上是一种真正的‘开战、遗忘和发现’才能。”

[attach]621420[/attach]

“Kargu-2”型无人机的宣传视频截图。图据《原子迷信家公报》

专门研讨无人机的美国马里兰州国家恐惧主义与反恐研讨联盟（START）安全顾问扎克·凯伦伯恩称，假如有人在袭击中丧生，这能够是历史上已知的首个人工智能（AI）自主武器杀人的案例。

美国芝加哥大学《原子迷信家公报》在报道中称，在这份长达548页的报告中，结合国安理会利比亚成绩专家小组并未详细阐明此次事情能否形成了人员死亡，但却指出，致命的自主武器系统导致了Pantsir S-1地对空导弹系统的严重伤亡。

【机器人及AI专家】

致命自主武器有风险

全球制止致命自主武器或为时已晚

结合国专家还在报告中明白提出了一个成绩，即全球制止致命自主武器的努力能否或已成白费。

过去，众多机器人及AI研讨人员，以及埃隆·马斯克、史蒂芬·霍金和诺姆·乔姆斯基等其他知名人士，都曾呼吁制止“攻击性自主武器”，比如那些有能够根据其编程搜索并杀死特定人员的武器，称它们“无法区分平民和兵士”。

[attach]621421[/attach]

在一场“制止杀手机器人”示威活动中，人们呼吁制止所谓的致命自主机器人。图据法新社

专家正告称，值得惹起国际社会关注的是，“Kargu-2”运用了基于机器学习的决策，其武器操作是基于软件的算法运转，并经过大型训练数据集学习，如分类各种对象等等。其计算机视觉程序可以经过训练来辨认校车、拖延机和坦克。但假如用于训练的数据集不够复杂或强壮，就能够导致人工智能（AI）学到错误的“课程”。

据《原子迷信家公报》报道，在一个真实案例中，一家公司计划运用AI系统来做出招聘决议。但是，管理人员却诧异地发现，AI系统以为，对求职者来说最重要的求职要素是——名叫“贾里德（Jared）”以及“在高中打过长曲棍球”。但假如是“Kargu-2”这样的自动武器犯了相似的错误，结果能够就让人笑不出来了。

START安全顾问凯伦伯恩表示，自主武器开发人员需求预见到能够导致机器学习系统做出错误决议的复杂性。AI学习的“黑盒子”特性，即AI系统决策过程通常是不透明的，添加了额外的应战。他们以为，这构成了一种真正的风险，即假如完全自主的军用无人机执行错误目的，其缘由能够难以解释。

他还指出，当几架无人机停止通讯和协调举动时，比如在无人机群中，出现成绩的风险更大。“沟通会产生级联错误的风险，即其中一个单元的错误解被另一个单元共享。”

红星旧事记者徐缓

编辑李彬彬

（下载红星旧事，报料有奖！）

[attach]621422[/attach]

作者: 扑向小女孩 时间: 2021-6-9 10:38
土耳其的啊，连他家无人机都不按牌理出牌吗

作者: wulihot 时间: 2021-6-9 10:47
为什么人类就不能和平相处？为什么要互相残杀？

作者: 机智大咩 时间: 2021-6-9 10:49
特斯拉就在干这事。

作者: 紫梦雅芝 时间: 2021-6-9 10:49
可笑，稍微懂点AI的人都知道这是不能够的事。无人机都是由人手动控制，自动辨认攻击的程序都没人敢写进指令里，更别说程序本人去自动攻击了，旧事随意报道真是逗。

作者: 灵魂οО 时间: 2021-6-9 10:54
这下美国有借口了。

作者: 高台高高画角 时间: 2021-6-9 11:00
最后毁灭人类的凶手一定是人类！！

作者: 坏蛋四号 时间: 2021-6-9 11:02
会不会只是被黑客操纵了……

作者: 钟无淫 时间: 2021-6-9 11:07
明明是缺点，变成自主攻击了[捂脸]

作者: 可多可果 时间: 2021-6-9 11:10
没说清楚无人机属于哪一方的，极有能够就是摔锅。

作者: 右全尺妈 时间: 2021-6-9 11:16
我国正式宣布：绝不再常规和平中运用终结者也不对无终结者国家地区运用终结者！

作者: 福和家具 时间: 2021-6-9 11:19
科幻片都不随意造没无机器人三定率的杀人机器[打脸]

作者: 韓僅____atw 时间: 2021-6-9 11:29
假如攻击的是本人一方的就可信，假如继续攻击敌方的，不可信。

作者: 默０默 时间: 2021-6-9 11:30
软件bug而已，在某种条件下误启动跳至自主攻击形式，这种旋翼无人机空地通讯比较脆弱，所以运用时会添加自主攻击形式，防止控制信号被干扰时影响运用，而相关指令一定是由地面发送的，这种误启动跟人工智能没啥关系。

作者: 专业学霸5 时间: 2021-6-9 11:35
忽然有一想法，人类是不是被某种生物创造出来的，后来产生了独立的看法摆脱了控制，如古人类创造了人工智能，将来的某天人工智能也会摆脱人类。

作者: 海角蝶恋花 时间: 2021-6-9 11:36
怎样断定的确是机器自主攻击而不是有人在悄然远程操控呢？

作者: 王老七 时间: 2021-6-9 11:40
无人也好，自动也罢，一旦失控就是人类灾难，尤其是武器方面

作者: ☆笑对人生☆ 时间: 2021-6-9 11:45
地球走向毁灭是必然的结果，我们只是过好剩余的日子罢了。科幻小说中的场景都在一步步完成。

作者: hy830216 时间: 2021-6-9 11:48
早晚的事儿！希望中国国泰民安吧

作者: sendusus 时间: 2021-6-10 07:16
学习下

作者: 我是你野爹 时间: 2021-6-11 07:22
想知道楼主的感受，怎么样？

作者: 玉兰花下 时间: 2021-6-12 07:19
前排支持下

欢迎光临智客公社 (http://bbs.cnaiplus.com/)