基于人工智能的网络安全要挟对抗浅谈

人工智能技术虽然本身风险类型较多，但是在实践状况中真正构成要挟态的还相对较少。要挟是曾经发生或者即将发生的安全事情，是有实践对手的，如黑灰产、黑客、不法资本、恶意竞争对手，甚至出于政治目的的国家级对手。相对于AI安全域，网络系统安全域、数据安全域、业务安全域正面临着史无前例的应战。安全的本质是对抗，要挟对抗的核心三要素是对手、资产、对抗体系，让我们从这三个视角来了解AI衍生安全以及AI如何助力安全。
要挟对抗的第一要素“对手”指的就是通常意义上的攻击者。在军事和平中假如连敌人都不了解，注定会走向失败，安全范畴异样如此，一定要擅于对“对手”停止要挟建模。特别是在甲方安全中，假如过度强化对手的才能会导致有意义的成本耗费，而假如过度低估对手的才能则会导致一系列安全事情。安全工作者大部分工夫对抗的都是黑灰产，而不法资本、恶意竞争对手、国家级攻击等是非常稀疏的。黑灰产普通分为两派，一派是有组织的黑产，他们会不断开发新的黑产工具、平台、基础设备，甚至残缺的下游洗钱链路;一派是低端黑产，低龄化趋向分明，他们会应用黑产工具不断地停止非法获利。当下一个很重要的趋向就是黑灰产正在拥抱AI，也就是人工智能衍生安全，从黑产的角度讲就是所谓的Weaponize AI(人工智能武器化)，他们背后的诉求就是尽能够把攻击行为自动化，以提高攻击效率从而追求更大的利润。

除了AI换脸技术之外，最典型的案例就是用AI技术破解验证码了。验证码本来是用来区分机器人和人类的，如文字验证码、图形验证码等，而随着AI技术的发展，机器曾经可以读懂文字、图形，与人之间的差距越来越小，甚至在某些范畴的才能曾经超越了人类，所以目前用AI技术破解验证码大行其道，这些海量的机器行为被用来停止各种“薅羊毛”、账密撞库等攻击。
要挟对抗的第二要素“资产”是指安全工作者保驾护航的对象。对一个大型互联网公司来说，资产形状很多，包括系统、网络、硬件等基础设备以及Web运用等。企业安全中有安全域的概念，如基础设备安全、运用安全、数据&隐私安全、业务安全、办公网安全等，每个安全域都有相应的安全工作者担任。安全工作者的日常工作中很大一部分就是对资产停止风险辨认，假如发现潜在成绩则停止管控，甚至推进复合管理，全体目的就是不断降低暴露在外的破绽、风险面，不断逼近攻击者无破绽可攻击的形状。“资产”这一层与AI的结合点包括AI本身风险，也包括AI助力安全，如基于强化机器学习发掘基础设备中的代码破绽、基于NLP技术/CV技术辨认敏感的数据资产，本质上都是加快风险发现的速度进而做好风险管控。
要挟对抗的最后一个要素是“对抗体系”。世界上没有一个相对安全的系统，疾速消弭要挟的方法就是对抗，对抗作战体系对于企业安全极其重要。2014年是互联网金融元年，数字世界的高价值资产吸引了大量黑灰产停止“薅羊毛”、盗账户、盗卡等违法犯罪活动，业务安全备受应战。但应战就是机遇，也就是从那几年末尾，智能化的风控、智能化的反洗钱末尾兴起，到如今发展得曾经相对成熟。AI技术带来的增益可以归纳为两点，第一是针对已知的攻击手法，AI技术可以提升辨认的精度，规则体系下的阈值往往是最难设置的，而AI技术可以从已知的黑样本中学习出恰当的模型，从而提升辨认精度;第二个增益点是AI技术可以稽核出来一些未知的攻击手法，这得益于聚类、异常检测等数据发掘技术，成功化被动安全为自动安全。