2019盘点 | 人工智能与网络安全的碰撞擦出了什么新火花
发布时间 2020-01-10转眼间，我们就踏入一个
数字都成双成对的2020年
在过去的时间里
人工智能技术获得了长足发展
不断刷新人们的认知
引发人们对它更多的期望
让我们一起回顾2019
看一看
人工智能与网络安全的碰撞
擦出了什么新的火花呢
RSAC 2019
人工智能技术从“宣传噱头”逐渐转向实际应用
每年召开的RSA大会被看作是网络安全业界的风向标，很多新的技术与理念诞生于此。
在2019年的RSA大会上，参展的736家厂商中有124家的宣传主题中包含人工智能/机器学习关键词，这表明了人工智能技术在网络安全领域继续得到普遍关注与认同。
然而，当我们深入观察比较近两年参展商所进行的宣传时，会发现一些变化，最重要的一点是人工智能技术从作为“宣传噱头”逐渐转向实际应用。具体差异如下表所示：
2018年与2019年RSA大会参展商对人工智能技术宣传的对比
从这些差异可以看出，对于人工智能技术，网络安全业界“冷静”下来了，不再追求所谓最新、最酷的算法，而是将其真正转化为产品的能力，关注如何能在实际环境中选择恰当合理的方案使其充分发挥作用。
启明星辰作为国内网络安全行业的领航者，始终朝着这一目标努力。在2019年，我们持续致力于将相关研究工作成果转化为实际产品能力，在威胁检测、用户行为画像、威胁情报等方面都已经取得了实质性进展。
Gartner 新兴技术成熟度曲线
可解释人工智能崛起打破人工智能技术的“黑盒”应用模式
2019年8月，Gartner发布了新一年度的新兴技术成熟度曲线。一如过去两年，人工智能技术继续占据了“半壁江山”。在曲线上总计29项技术中与人工智能直接相关的达到15项，这再次印证了人工智能技术的持续高速发展以及它所受到的高度关注与期望。在这些技术中，有的是延续上一年仍在曲线上，如自动驾驶、知识图谱等，也有很多是新出现的，就比如我们下面要讨论的可解释人工智能（Explainable AI，简称XAI）技术。
2019年Gartner新兴技术成熟度曲线（人工智能相关技术用红色下划线标示）
可解释人工智能这一研究领域早在2014年就被正式提出，它的主要目标是将人工智能技术的“黑盒”应用模式打破，让人们可以理解人工智能做出的决策。人工智能“黑盒”应用的问题在网络安全领域尤为重要，因为它不仅给结果的准确性认定带来了困难，而且会造成难以深入分析、无法追踪溯源的情况，甚至会导致人们对于人工智能技术的不信任。因此，在网络安全领域采用可解释人工智能方法，将有助于解决上述问题，使得基于人工智能构建的网络安全应用更容易被人们所接受。
人工智能“黑盒”应用在网络安全领域中存在的问题
启明星辰对于前瞻性技术一直坚持积极探索的态度，在2019年我们尝试将可解释人工智能的方法应用于之前基于深度学习算法所构建的网络安全威胁检测模型，取得初步成果，能够用可视化的方法直观标示出对算法模型所做出的决策产生重要影响的原始输入数据中的关键部分（即更可能包含有安全威胁的部分）。
Gartner发布2020十大战略性技术趋势
拥有三维含义的人工智能安全位列其中
2019年10月，Gartner发布了2020十大战略性技术趋势，其中“AI Security”（人工智能安全）位列其中。但是，这里的人工智能安全不仅是指将人工智能技术用于网络安全防御，而是给出了它的三维含义，即保护AI赋能的系统、利用AI来提升安全防御以及对AI的恶意使用。
Gartner发布的2020十大战略性技术趋势
● 保护AI赋能的系统
保护AI赋能的系统主要是关注人工智能自身的安全问题。日前，一条关于一家美国AI公司使用3D打印的面具破解包括支付宝、微信支付等人脸识别系统的新闻刷爆了各大媒体，这正是AI赋能的系统遭受攻击的典型案例。此外，AI赋能的系统还会受到训练数据投毒、模型窃取、对抗样本等多种类型的攻击。未来，随着AI的日益广泛应用，这方面的问题将会越来越多地呈现在人们面前。因此，当我们采用AI赋能网络安全防御系统时，也应关注其自身的安全问题。
● 利用AI来提升安全防御
利用AI来提升安全防御是网络安全领域最早关注的方面。Gartner在报告中指出不能仅依靠机器学习作为安全解决方案中的单一防御技术，基于机器学习的安全工具也不是为了完全取代现有工具而设计的。这告诉我们不应过度神话机器学习等AI技术在网络安全应用中的能力，而应保持理性态度，分析选择适合的应用场景，使其发挥最大价值。
● 对AI的恶意使用
对AI的恶意使用也是近年来时常被提及的话题，一个广为人知的实例是DeepFakes的恶意使用。DeepFakes是一款AI换脸工具，可将图片或视频中的人换脸，恶意使用则包括伪造图片或视频用于欺诈、传播虚假消息、制作色情内容等。在网络安全领域，AI也可被利用来辅助攻击，例如Cyxtera公司演示了一个基于机器学习的钓鱼攻击生成器，可以自动构造出能骗过检测系统的有效钓鱼链接及邮件。另一个知名案例是应用了强化学习算法A3C的自动渗透测试工具Deep Exploit，可实现一定程度上的自主学习生成漏洞利用载荷。借助AI能使得攻击更加自动化和难以防御，未来很有可能出现AI之间的攻防对抗。
个性动图分割线
随着人工智能与网络安全的深入融合，越来越得到业界的关注与认可。未来，启明星辰将继续基于AI的恶意代码识别与威胁检测、用户实体行为分析、安全知识图谱等研究积累的基础上，与其他技术及可解释人工智能方法等相结合，向着打造“可用、实用、易用、好用”的基于AI的网络安全应用的目标不断前进，并紧密跟进人工智能安全的另两维含义所涉及的相关前沿技术研究，谱写AI赋能网络安全的新篇章。
京公网安备11010802024551号