结合国报告：史上初次，一军用无人机自主攻击人类

据英国《独立报》5月31日报道，一份结合国安理会最近的报告称，一架军用无人机在没有接到任何指令的状况下自主对人类发起袭击，这或为历史上初次。

在不断的预警声中，这一幕科幻电影里的场景最终在真实的世界里发生了。有人忧心忡忡——理想版“终结者”真的来了吗？

电影《终结者2》中的T-800终结者机器人。图据法新社

【结合国报告】

撤离部队遭无人机追捕及远程攻击

涉事无人机具有自主攻击才能

据悉，这一令人震惊的事情发生于2020年3月。

当时，利比亚政府军与利比亚国民军司令哈夫塔指导的军事权利发生冲突之际，一架土耳其军事科技公司STM消费的“Kargu-2”型无人机在未接到任何指令的状况下，袭击了利比亚哈夫塔尔国民军阵营的撤离兵士。

结合国相关报告中写道：“后勤车队和撤离的哈夫塔部队随后遭到无人驾驶作战飞机或STM kargu-2等致命自主武器系统的追捕和远程攻击。”

《独立报》征引STM公司引见，“Kargu-2”是一款多旋翼无人机，重15磅（约6.8千克），最高时速约90英里（145公里），续航工夫约30分钟，可携带3种1.36千克的重弹头——破片杀伤弹头，用以对付人员和轻型车辆；温压弹，用以对付建筑物和掩体；成型装药弹头，用以对付装甲目的。

土耳其军事科技公司STM的“Kargu-2”型无人机。图据《独立报》

这款无人机装备激光雷达、可见光相机和红外夜视仪，运用基于机器学习的对象分类来选择和攻击目的。“Kargu-2”型无人机还配有炸药、敌方辨识系统及面部辨认才能，可以寻觅特定的个人，是为“反恐和不对称和平场景”而设计的。

STM公司CEO伊肯奇称，这款无人机可人工控制，兵士可从6英里（9.7公里）外控制无人机发动攻击。也可以预设航线自主飞行，自主定位、跟踪和辨认目的。这意味着，在操作员未下达指令的状况下，“Kargu-2”的确具有自主攻击的才能。

此外，这款无人机还可应用摄像头和其他传感器经过地标导航，而不依赖GPS。而且，它们还具有群集才能，可以20架为一组停止协同作战。

结合国专家在报告中写道：“这种致命自主武器系统被编程为攻击目的，不需求操作员和弹药之间的数据衔接：实践上是一种真正的‘开战、遗忘和发现’才能。”

“Kargu-2”型无人机的宣传视频截图。图据《原子迷信家公报》

专门研讨无人机的美国马里兰州国家恐惧主义与反恐研讨联盟（START）安全顾问扎克·凯伦伯恩称，假如有人在袭击中丧生，这能够是历史上已知的首个人工智能（AI）自主武器杀人的案例。

美国芝加哥大学《原子迷信家公报》在报道中称，在这份长达548页的报告中，结合国安理会利比亚成绩专家小组并未详细阐明此次事情能否形成了人员死亡，但却指出，致命的自主武器系统导致了Pantsir S-1地对空导弹系统的严重伤亡。

【机器人及AI专家】

致命自主武器有风险

全球制止致命自主武器或为时已晚

结合国专家还在报告中明白提出了一个成绩，即全球制止致命自主武器的努力能否或已成白费。

过去，众多机器人及AI研讨人员，以及埃隆·马斯克、史蒂芬·霍金和诺姆·乔姆斯基等其他知名人士，都曾呼吁制止“攻击性自主武器”，比如那些有能够根据其编程搜索并杀死特定人员的武器，称它们“无法区分平民和兵士”。

在一场“制止杀手机器人”示威活动中，人们呼吁制止所谓的致命自主机器人。图据法新社

专家正告称，值得惹起国际社会关注的是，“Kargu-2”运用了基于机器学习的决策，其武器操作是基于软件的算法运转，并经过大型训练数据集学习，如分类各种对象等等。其计算机视觉程序可以经过训练来辨认校车、拖延机和坦克。但假如用于训练的数据集不够复杂或强壮，就能够导致人工智能（AI）学到错误的“课程”。

据《原子迷信家公报》报道，在一个真实案例中，一家公司计划运用AI系统来做出招聘决议。但是，管理人员却诧异地发现，AI系统以为，对求职者来说最重要的求职要素是——名叫“贾里德（Jared）”以及“在高中打过长曲棍球”。但假如是“Kargu-2”这样的自动武器犯了相似的错误，结果能够就让人笑不出来了。

START安全顾问凯伦伯恩表示，自主武器开发人员需求预见到能够导致机器学习系统做出错误决议的复杂性。AI学习的“黑盒子”特性，即AI系统决策过程通常是不透明的，添加了额外的应战。他们以为，这构成了一种真正的风险，即假如完全自主的军用无人机执行错误目的，其缘由能够难以解释。

他还指出，当几架无人机停止通讯和协调举动时，比如在无人机群中，出现成绩的风险更大。“沟通会产生级联错误的风险，即其中一个单元的错误解被另一个单元共享。”

红星旧事记者 徐缓

编辑 李彬彬

（下载红星旧事，报料有奖！）

土耳其的啊，连他家无人机都不按牌理出牌吗

为什么人类就不能和平相处？为什么要互相残杀？

特斯拉就在干这事。

可笑，稍微懂点AI的人都知道这是不能够的事。无人机都是由人手动控制，自动辨认攻击的程序都没人敢写进指令里，更别说程序本人去自动攻击了，旧事随意报道真是逗。

这下美国有借口了。

最后毁灭人类的凶手一定是人类！！

会不会只是被黑客操纵了……

明明是缺点，变成自主攻击了[捂脸]

没说清楚无人机属于哪一方的，极有能够就是摔锅。