面对核算机系统和网络的缺点和缝隙，黑客们找准时机施行进犯，白帽黑客则利用黑客技能来测试网络和系统的功能以断定它们能够承受侵略的强弱程度。短短几年时刻，人工智能已进驻多个职业，落地无数场景。其间一些职业和场景已为大家所熟知，还有一些正在进入咱们的视野，在网络安全范畴，AI“白帽”正成为网络安全工程师的得力助手。
据报道，近来美国市场调研公司CB Insights发布陈述猜测了2019年人工智能职业的发展趋势，其间一个趋势就是用人工智能发现网络要挟。
正在赋能网络安全
“人工智能技能的蓬勃发展，为网络安全攻防带来的，不只有机会，也有挑战。”北京理工大学网络攻防对立技能研讨所所长闫怀志承受科技日报记者采访时说。
先说好的一面。360安全研讨院邹权臣博士通知科技日报记者，现在人工智能现已运用于歹意代码检测、歹意流量检测、要挟情报搜集、软件缝隙发掘等网络安全范畴。
“例如在歹意代码检测方面，人工智能通过对歹意程序的API调用序列、系统CPU利用率、收发的数据包等信息，主动辨认歹意代码的特征，进而断定分类。”邹权臣介绍，比较于传统的根据动静态剖析的特征检测、启发式检测技能，人工智能能够大幅度提高检测的准确率。
360安全研讨院研讨员张德岳介绍，在软件缝隙发掘方面，采用人工智能技能从缝隙相关的数据中提取经历和常识，并用练习好的模型提高缝隙发掘的精度和功率，能够缓解当前该范畴研讨遇到的一些瓶颈问题，具体运用场景包含缝隙程序筛选、源代码缝隙点猜测等。
“人工智能在网络安全范畴的运用日益广泛，运用人工智能赋能网络空间安全，主要体现在主动防御、要挟剖析、策略生成、态势感知、攻防对立等诸多方面。”闫怀志说，其间包含采用人工神经网络技能，来检测侵略行为、蠕虫病毒等安全危险源；采用专家系统技能，进行安全规划、安全运行中心办理等；此外人工智能办法还有助于网络空间安全环境的办理，比如冲击网络欺诈。
具有显着“过人之处”
与传统的应对网络安全的方法比较，人工智能的确展现了其“过人之处”。
在闫怀志看来，人工智能办法在处理人力所不及的安全大数据统计和抽取规则方面具有天然优势，它能够全面提高要挟进犯的辨认、呼应和反制速度，提高危险防备的预见性和准确性。特别是在反常行为检测等运用场景含糊的非准确辨认和匹配方面，更是如此。
“人工智能针对不知道要挟和进犯的检测也更出色。由于传统的特征匹配办法对不知道要挟几乎无能为力，而人工智能办法有时不需要先验常识，对不知道要挟的检测才能较强。”闫怀志说。
不得不说，人工智能系统还具有成本效益优势。闫怀志以为，人工智能能够在第一时刻发现和辨认预防要挟，并当即发动应急呼应，高效的智能检测流程有助于减少人工参加、简化流程、降低成本、减小丢失。
“传统的应对网络安全的办法依靠于人工硬编码界说、提取特征的方法完结相关任务，而人工智能能够直接对原始数据进行练习，从很多的数据中提取特征，主动完结分类断定的工作。”张德岳说，如此一来后者既能够提高网络安全中猜测、防备、检测、销控等各个危险环节的主动化和智能化程度，又能提高呼应速度和断定的准确率。
不能靠它包打天下
“虽然人工智能搅动了网络安全范畴的一池春水，可是应该理性看待人工智能在应对网络安全方面的优缺点，不能盼望全靠人工智能来包打天下。”闫怀志说，人工智能在应对网络安全问题时，也有较强的局限性。
邹权臣剖析，这一方面受限于人工智能算法自身的才能。由于传统的机器学习技能依靠特征提取，而算法的效果和功能又依靠辨认和提取特征的准确性。深度学习具有在高维数据中主动提取特征的才能，一起面临着继续学习、数据饥饿、可解释性等问题。
“另一方面机器学习、特别是深度学习过分依靠数据，但在歹意代码检测、软件缝隙发掘等范畴，现在仍然存在数据搜集困难的问题，短少较好的数据集用于练习，影响对相关范畴的研讨。”邹权臣弥补说，另外人工智能严峻依靠于耗费核算资源，杂乱的深度学习网络需要一起核算成百上千万次的核算，需要强壮的人工智能芯片核算力的支撑。
闫怀志则从不同方面总结了人工智能的缺乏。比如，易于忽视或者扔掉人类专家在网络安全范畴的常识和经历堆集，对网络安全的杂乱运用场景考虑缺乏，对于已知要挟的检测功率远低于传统的准确特征辨认办法等。
“运用神经网络和深度学习等算法，能够较好地辨认出不知道进犯要挟危险，达到‘知其然’的意图，可是这些算法一般无法提醒产生这种安全危险的根本机理，也就是‘不知其所以然’，从而为从源头防御这种进犯危险带来极大障碍。”闫怀志说。
脆弱面带来安全危险
人工智能在应对网络安全问题时，有时甚至会展现出脆弱的一面。
“一个实在环境中的人工智能系统，会面临数据安全、模型/算法安全、完成安全等多方面的安全要挟。”张德岳通知科技日报记者。
张德岳举例说，在数据安全方面，在数据搜集与标示时呈现错误或注入歹意数据，将导致数据污染进犯；在模型/算法安全方面，针对人工智能算法存在黑盒和白盒对立样本进犯，可导致辨认系统呈现混乱；在完成安全方面，除了人工智能系统自身的代码完成，其所根据的人工智能结构以及所依靠的第三方软件库中的软件完成缝隙，也都或许导致严峻安全问题。
“人工智能对现有网络安全格式的影响，离不开算法、数据和核算才能3个方面，其简单遭受进犯的弱点也来自于此。”闫怀志总结说。
对于防备人工智能的脆弱性所带来的安全危险，闫怀志指出：首先要从系统架构、系统算法容错容侵设计、缝隙检测和修复、安全配置等方面来增强人工智能系统自身的安全性；其次，要用其所长，尽量减小其露出给外界的潜在进犯面；最后要构建网络空间安全综合防御系统，从安全技能和安全办理等层面来协同防备安全进犯，直接减缓进犯者直接针对人工智能系统发起进犯以及进犯成功的或许性。
来自360安全研讨院的专家也给出多个建议，其间包含：在数据获取过程中，要加强对数据来历的控制与过滤，在必定程度上确保数据安全可靠；在数据传输过程中，要运用愈加安全的传输协议与加密算法；在人工智能系统的完成中，要确保代码质量并进行完善的测试，此外还要及时更新或修补结构或依靠库中存在的缝隙等。
