导语
2021年4月15日，美国哈佛大学肯尼迪学院贝尔弗迷信与国际事务中心发布《即将到来的人工智能黑客》报告。报告指出，人工智能在一定程度上会对社会产生负面影响，次要体如今两个方面：一是人工智能系统会被用来干扰人类认知；二是人工智能系统将成为黑客，在社会、经济和政治系统中寻觅破绽，然后以史无前例的速度、规模和范围来应用这些破绽。报告次要观点摘编如下。
一、人工智能能够成为黑客，干扰人类认知，影响社会、经济和政治系统发展
计算机无处不在，影响着人类生活的方方面面，使得黑客攻击可以出如今任何地方。经济、社会和政治系统的发展都依赖于人类做出正确决策，人工智能系统能够经过多种不同方式入侵人类大脑，使人类认知遭到干扰。例如经过在社交媒体发布虚伪信息干扰公众留意力，毁坏公众对理想的认知；经过夸张恐惧主义的要挟力度，来攻击人们的风险评价认知系统等。不同政治、经济和社会系统易受人工智能黑客攻击的程度不同。基于多种规则的复杂系统和受社会规范约束的系统更易遭到攻击，前者是由于更容易产生预料之外的后果，后者是由于系统的可解释性导致其存在更多破绽。
二、人工智能黑客攻击次要包括蓄意和有意两种状况
一是人工智能能够被人类蓄意用于入侵某个系统。例如操作员能够会向人工智能系统提供世界税法或世界金融法规，让其寻觅一系列有利可图的黑客攻击方式。
二是人工智能能够会自主地、有意地入侵某个系统。这两种状况都很风险，但后者愈加风险，由于人类能够永远不知道系统被入侵。
三、人工智能黑客攻击具有速度快、规模大、风险性强的特点
人工智能的出现，从速度、规模和风险性三个方面，对入侵经济、社会和政治系统的黑客攻击产生影响。人工智能系统不会像人一样遭到伦理道德的约束，会以人类无法预料的方式入侵系统。首先，人工智能系统使得黑客攻击以惊人的速度停止，这是一种本质的变化，过去一个需求几个月或几年的入侵过程，能够只需几天、几小时甚至几秒钟；其次，人工智能系统一旦发现可应用的破绽，将以人类无法预测的规模停止黑客攻击；最后，人工智能系统不断扩展的覆盖范围，使得黑客攻击更具风险性。
四、随着人工智能系统复杂性的添加，其可解释性将越来越差
古代人工智能系统本质上是一个黑盒，数据从一端出来，处理结果从另一端出来。与人类处理成绩的方式不同，人工智能系统会比人类思索更多可行的处理方案。人工智能系统的决策能够会超出人类的了解范围，而强迫停止解释能够会带来更多的限制，从而影响人工智能系统做出的决策。2017年，美国国防高级研讨计划局启动“可解释的人工智能”研讨计划，寻求系统才能和可解释性之间的平衡。在不久的将来，随着人工智能系统复杂性的添加，其可解释性也将越来越差。
五、加强防御人工智能黑客攻击的措施建议
当人工智能系统可以发现软件破绽，并应用这些破绽在全球范围内对计算机网络停止大规模黑客攻击时，人类将处于史无前例的风险当中。为此，报告提出了两条防御措施：一是要建立疾速有效应对黑客攻击的弹性管理架构，例如修订国家法律法规和社会规章制度；二是要加强者类与人工智能系统间的交互了解，充分了解人工智能系统扮演人类角色时能够出现的风险。 | 
