我的位置 态势感知  >  安全态势

人工智能和机器学习在网络安全中的真正作用是什么?

来源:秦安战略 时间:2019-09-29 阅读次数:

人工智能(AI)和机器学习(ML)被认为是解决不同行业和应用中各种问题的一种方式,例如减少街道交通,改善在线购物,使用语音激活的数字助理使生活更轻松,和更多。

网络安全行业也不例外。但是,我们需要注意AI和ML的“炒作”。而且那里有很多炒作!谷歌对“人工智能”一词的简单搜索就产生了约6.3亿个结果,而AI继续占据头条,甚至进入了主流电视广告。但是,网络安全行业需要树立记录-与流行的看法相反,人工智能和机器学习无法解决我们所有的问题。

业界需要将网络安全中的AI / ML的真实内容与单纯的炒作区分开来。尤其是,企业需要意识到的一个关键问题是AI / ML无法进行因果关系,这意味着AI / ML无法告诉您发生某些事情的原因。了解为什么是网络安全的关键组成部分,尤其是与安全事件调查和分析有关的原因。

朱迪亚·珀尔(Judea Pearl)是人工智能领域的先驱者,也是其领先的专家之一,他在其最新著作《为何之书:因果的新科学》中讨论了人工智能的问题。对于当今的高科技行业,人们对智能到底是什么的理解还不够全面。珀尔(Pearl)解释了对概率关联的高度关注如何使我们简单地演变为更先进的应用程序,其应用与AI在1980年代初期所做的相同的简单推理相同。

这个问题是为什么AI仍无法解决足够的网络安全实际问题的核心。基于AI的经常销售方式,业内许多人认为AI驱动的网络安全技术可以简单地代替人类。尽管AI的摄取和处理大量信息的能力很重要,但AI缺乏因果推理的原因在于,尤其是经验丰富的安全分析师和事件响应者提供的人类智能仍然至关重要。训练有素的安全团队在检测,识别和防御各种网络安全威胁方面发挥着重要作用-并将长期保持这种状态。

其他专家也认为,围绕人工智能存在误解。在Elsevier于2018年7月发表的一篇文章中,纽约大学心理学和神经科学教授,机器学习初创公司Geometric Intelligence的前CEO Gary Marcus博士(2017年被Uber收购)表示:“我认为最大的误解是关于AI的人们认为我们已经接近它了。我们离那里不远……人类可以具有超强的灵活性-他们可以在一种情况下学习某些东西,然后在另一种情况下应用它。机器无法做到这一点。”

但是,AI / ML有一些重要的好处,包括它具有关联各种来源的大量数据的能力。这种相关程度对于告知安全团队他们正在调查的事件以及使团队在处理分析方面的教育和效率更高至关重要。例如,AI / ML可以使用异常检测和聚类提供有关潜在事件的详细信息。它还可以帮助对需要调查的事件进行风险评分。此数据可用于更好地通知正在做出有关安全事件决策的人员。但是AI / ML无法为您做出决定。

总之,正确使用AI / ML可以在通知安全团队方面发挥重要作用,从而帮助安全团队就安全威胁和事件做出更及时,更准确的决策。但是AI / ML无法为您完成这项工作,内部没有神奇的解决方案,这是更广泛的行业需要理解的重要区别。因果关系(理解为什么会发生)是AI / ML无法做到的,并且是人与AI / ML系统之间的关键区别。

通过了解AI和ML在网络安全流程中发挥的真正价值,以及人类带来的价值,我们的行业可以减少关键的误解,从长远来看,可以使我们的整体网络安全战略更加有效。

 

 

原文来源:秦安战略

8条评论