2018年 | 人工智能 + 网络安全看这里

发布时间 2019-01-09
转眼都9102年了,又是进行各种总结回顾的时间,本文将针对2018年度人工智能技术在网络安全领域的融合应用及发展情况做出一个简单的回顾。


人工智能光环依旧

我们首先来看风头正劲的人工智能技术。观察Gartner近两年的新兴技术成熟度曲线(如图1-2,分别于2017年7月及2018年7月发布),可以非常清晰地发现人工智能技术的“霸主”地位:在曲线上所包含的总计30多项技术中,约15项与人工智能相关,其中在近年来一直受到高度关注的深度学习技术更是持续两年位于曲线的巅峰位置(Peak of Inflated Expectations)。

人们对于人工智能的期待甚高,各行各业都在尝试这一技术以期取得改变和提升,遍及金融、医疗、教育、娱乐、购物等社会生活的方方面面,似乎没有采用人工智能技术就与“先进”、“前沿”这类描述告别;而技术之外的社会伦理探讨也不乏少数,5月发售的互动电影游戏《底特律:成为人类》正是其中典型。
 

图1. 2017年Gartner新兴技术成熟度曲线
(人工智能相关技术)
 

图2. 2018年Gartner新兴技术成熟度曲线
(人工智能相关技术)


国内对于人工智能的关注与投入更是如火如荼。在2017年发布《新一代人工智能发展规划》及《促进新一代人工智能产业发展三年行动计划(2018-2020)》之后,各企业、高校及研究机构都奋勇向前,积极探索新一代人工智能技术及应用,人工智能独角兽企业得以迅速发展。

2018年10月31日在中共中央政治局第九次集体学习上,习近平总书记强调要深刻认识加快发展新一代人工智能的重大意义,加强领导,做好规划,明确任务,夯实基础,促进其同经济社会发展深度融合,推动我国新一代人工智能健康发展。

因此,在可预见的未来,人工智能的光环不会暗淡下去,即使技术上的突破没能很快出现,在应用方面也仍将会持续发展。


"人工智能+网络安全"热度升级

人工智能技术的大火也漫延至网络安全领域,无论是学术研究还是业界都是如此。在学术研究方面,简单统计近三年的相关学术论文数量(如表1,总文章数根据谷歌学术搜索计数估计,顶会文章数为CCF推荐国际学术会议目录中网络与信息安全类别A类会议文章统计),可以明显看出论文数量的持续增长。



表1. 近三年“人工智能+网络安全”主题学术论文数量

业界的态度可以从2018年4月举办的RSA大会上窥见一斑:在总计577家参展商中,包括人工智能、机器学习为主题关键字的厂商分别有71家和98家,具体应用更是几乎覆盖全线安全产品,包括文件检测、终端安全、邮件安全、威胁情报、用户画像、账户认证等等。与此同时,利用人工智能技术的新型攻击手段以及专门针对人工智能算法的攻击形式(对抗性攻击)也开始逐渐出现。表面上看起来,似乎人工智能技术在网络安全领域已经得到了广泛应用,然而现实情况还是有一定差距的,人工智能更多还是作为宣传关键词的角色出现,尚不能成为产品的核心支撑技术,其中有如下两点重要原因是不可忽视的:

 一是人工智能技术的可靠性 

这里的可靠性不是传统意义上的系统可靠性,它包含可解释性、安全性、健壮性等多个含义。只有在这些方面取得有力保证,才能确保基于人工智能技术所构建的网络安全产品的可信赖性。这点与当前很多流行的互联网应用有明显差别,因为推荐一个不特别合适的商品或电影不会带来太多危害,而原因不明的安全警报所造成的影响要严重得多。

 二是专业人才的稀缺性 

在人工智能和网络安全领域均具备丰富知识技能的人才,可能和北京这几年的下雪天一样稀少罕见。在缺乏安全领域知识情况下构建出的算法模型难以取得理想的效果,而且也无法提供上述的可靠性保证;而没有丰富的人工智能实践经验,又会阻碍这一技术在安全领域应用的探索进程,容易陷入对算法模型的无目标尝试。

因此,2018年是在人工智能技术发展的大潮下,网络安全领域也积极跟进的一年,但技术应用的成熟度仍有待提升,人工智能技术与网络安全领域知识的深度融合需要进一步增强。


我们的研究探索

启明星辰公司作为国内网络安全行业的领航者,一直坚持对新技术的探索与研究。在人工智能技术与网络安全领域的融合应用方面,2018年我们在之前工作的基础上继续发力,包括在恶意代码检测(包括文档类文件、脚本类文件等)、流量检测识别及异常发现等应用场景中运用机器学习、深度学习算法,在恶意代码同源性分析、攻击路径分析等问题中运用知识图谱技术,同时开始逐步推进研究成果的产品转化,例如在APT检测及网络用户实体行为智能安全分析系统(V-UEBA)中的人工智能技术应用等。

在2018年的研究探索中,我们将人工智能技术与大数据分析处理更紧密关联,着力于网络安全领域知识与机器学习等算法模型的深层结合,以构建特定场景下可解释人工智能应用为目标,思考基于人工智能的网络安全应用与已有成熟技术的有效协作手段。新技术的学习、高质量数据的获取、应用场景的刻画、领域知识的抽象等无一不包含着各种难题,期待更多有志有识之士一同加入“探险”的行列。

展望新的一年,启明星辰已经继续踏上征程,将持续推动人工智能技术的落地,与安全大数据分析更好的拥抱结合,在深入理解安全问题及业务场景的基础上充分发挥人工智能技术的优势作用,构建多元技术融合的良好生态。