细思极恐，无人机初次自主杀人，潘多拉魔盒已被打开？

人类能否阻止或延缓自主杀人机器大军的问世？




我们甚至不知道他的姓名。


2020年3月，利比亚内战的战场上，一架土耳其消费的自杀型无人机在完全自主形式下，攻击了一名参战兵士——日前，结合国安理会发布的这份报告震撼了国际言论。




这名兵士的最终命运我们不得而知。但他在不经意间代表人类，在烽火纷飞的战场上不幸地见证了机器人杀手的初次登场。《新迷信家》杂志称，这是有史以来第一例明白记录在案的“机器自主杀人事情”。

科幻电影《终结者》截图。 图源：电影截图

无人机“思索”后杀人

这份长达548页的报告，由结合国安理会利比亚成绩专家小组往年3月发布。但直到最近，它才因上述细节得到广泛关注。


去年3月，得到土耳其、美国和英国等支持的利比亚民族勾结政府，同得到埃及、法国和俄罗斯支持的、由哈夫塔尔将军带领的“国民军”的战役进入白热化阶段。


根据报告，一名“国民军”兵士在试图撤离时，遭到一架“卡古”2型四旋翼无人机的攻击。但与此前的无人机攻击事情迥然不同的是，之前的无人机“斩首”也好，自爆也罢，都是执行位于后方的人发出的指令，而这次的攻击却是机器本人“思索”后的决议。


“卡古”2型四旋翼无人机由土耳其STM公司消费，配有炸药并可对目的停止自杀式攻击。

“卡古”2型自杀式无人机。图源：archyde.com

其攻击方式大致相似于此。图源：youtube


根据STM公司的产品引见，“卡古”2是一种具有完全意义上“发射后不用管”的无人机，它基于人工智能的“深度学习”才能，不只能自主辨认和分类攻击目的，还具有群集作战的才能，允许20架无人机协同攻击。


俄罗斯知名无人机专家丹尼斯·费杜季诺夫5月31日表示，这种才能在技术上是可行的，但土耳其军事工业把它从可行变成理想，无异于打开了潘多拉魔盒。

技术风险引发争议

置信很多读者都还记得，2017年中国围棋天赋棋手柯洁与围棋机器人“阿尔法狗”的那场人机世纪大战。


围棋是人类陈旧智慧的结晶，而柯洁曾延续40个月排名人类围棋世界第一。“阿尔法狗”是由谷歌公司下属团队研发的围棋机器人，其次要工作原理是“深度学习”。结果，柯洁以0:3的战绩完败于机器。

最后一局棋至中盘，预见到赢不了的柯洁绝望地啜泣。但没人有资历嘲讽柯洁。经过此战，围棋界已公认“阿尔法狗”的棋力超过了人类职业围棋的顶尖程度。图源：新华社


具有自主攻击才能的无人机，本质上也是被人工智能“深度学习”才能武装过后的机器人。只不过，“阿尔法狗”学习的是下棋，而武装无人机学习的是杀人。


但是，现有的“深度学习”并不牢靠。结合国报告称，这种无人机是运用计算机视觉来选择和攻击目的，而以自动驾驶技术的研发为例，如今的人工智能在图像辨认范畴的“学习成绩”还有待提高，并不能总是准确地辨认人员、车辆和妨碍物，更别说及时做出判别和反应。

即便最简单的图像辨认，也需求海量的数据库和先进的算法为基础，如微软Azure对耳机的辨认率也仅为93%。 图源：nordicapis.com


有鉴于此，土耳其的无人机可以准确地辨别兵士与平民，装甲车与大巴吗？可以准确区分样貌相似的两个人吗？


有人说，图像辨认的技能会随着技术的提高而处理。但别遗忘，屠戮异样是一种技能。假如人工智能可以在图像辨认范畴获得提高，那么见利忘义的国际军火商有什么理由不让机器直接学习屠戮呢？

竞争妨碍技术管制

实践上，结合国报告隐含的一个核心成绩是，人类能否阻止或延缓自主杀人机器大军的问世。


遗憾的是，迷信界对此并不悲观。美国国家恐惧主义与反恐对策研讨结合会的研讨员扎克·卡伦伯恩表示，这是机器向人类发出的警报，其要挟丝毫不亚于传统的大规模杀伤性武器。


与门槛很高的核武器不同，无人机技术更新及分散极快，且缺乏相应的国际管制机制。一旦恐惧组织获得相关技术，那么其能制造的恐惧效应几乎难以想象。


更严重的是，在当前的国际氛围下，以人工智能为代表的高新技术成为国家激烈竞争的高地，在军事范畴尤为分明。


据美媒2017年报道，美国密苏里大学团队设计和训练的人工智能程序，曾经具有相当的军事才能。环球网报道称，在中国东南部的一块面积约为55923平方英里的卫星照片上，人工智能找到90个防空导弹阵地所花费的工夫仅为45分钟，而人类专家通常至少需求60个小时。

美国军方在人工智能军用化范畴身先士卒。图源：ausa.org

俄罗斯也将战役机器人投放到叙利亚战场。图源：alaraby.co


面对外界的恐慌，美国军方竭力安抚，宣称不会让人工智能介入最终决策。但稍有常识的人都清楚，在工夫等于生命的战场上，效率和准确率兼顾的人工智能在辅助决策范畴具有的价值。再说，五角大楼投资人工智能难道是为了做慈善？


过去，包括埃隆·马斯克在内的许多人工智能研讨人员，以及史蒂芬·霍金等迷信界知名人士，都曾呼吁全球制止研发“自主攻击性武器”。但正如英国《独立报》报道，包括美国在内的许多国家都在阻遏防分散和监管机制的建立。

对此，英国智库皇家结合军种国防研讨所的研讨员杰克·沃特林表示，“技术不等人。”

人们在德国呼吁制止发展可自主杀人的机器人。 图源：independent.co.uk




出品 深海区工作室
撰稿 杨一帆
编辑 实习生 方可 深海默

说不定哪天人类就被智能机器人干掉了

制止杀人机器人？掩耳盗铃而已。
人类的本性曾经决议了，该来的总会来。

充分阐明人类将自我消亡，这个预言是真实的！

2020年的事情如今才曝光[酷拽]美国不知道实验了多少次

假如哪天机器自主学习开了灵智，那人类就预备灭绝

在不久的将来！智能机器人，会自主学习，不断退化的过程！这是可怕的事情！一旦他们人类妨碍他们的生活环境！它们能够会反击！浩瀚无垠宇宙之中，人类只是地球上的过客而已！本人会把本人逐渐湮没了！！！

天网的建成只是工夫成绩，到时分就不知道是人统治地球还是机器统治地球了。

杀人机器人不需求人类干涉就能自主制造杀人机器人才是最可怕的[黑线]

无语了，人类还有什么事做不出来的？