近日，由安全极客、Wisemodel 社区、InForSec 网络安全研究国际学术论坛和海升集团联合主理的“AI + Security”系列第 3 期技能沙龙：“AI 安全智能体，重塑安全团队事情范式”活动顺利举行。这次活动吸引了线上线下超过千名不雅观众参与。
在活动中，天翼安全高等安全算法专家杨刚揭橥了题为 “AI 技能在网络安全领域确当地化运用与寻衅” 的主题演讲，从网安与 AI 的技能特点、面临的寻衅以及本地化之路和未来展望等维度进行了分享，使我们对智能浪潮时期 AI 赋能网络安全所带来的重大变革有了更为深刻的理解和认知。人工智能技能在网络安全中的运用，向我们展现了网络安全领域在智能时期的新发展和新机遇。
网安与AI的技能特点“网络安全从“个人英雄”时期逐步演进，如今已经迈入AI驱动的智能化时期。在早期，网络安全紧张依赖于个人黑客或小型团队的单点技能和点状防御，难以形成全面、系统的防御体系。然而，随着人工智能，尤其是大模型技能的引入，网络安全技能不断升级，行业进入了“无AI不网安”的新阶段。” 杨刚师长西席如是说。
人工智能技能在处理非构造化数据（如图像、文本和分子构造）方面具有显著上风，能够从海量数据中提取细节信息，从而实现繁芜模式的识别和预测。这使得AI技能在网络安全中的运用超越了传统的规则和情报驱动模式，为安全防御注入了更多的智能化元素。借助AI的能力，安全系统可以从大数据中创造隐蔽的威胁模式，预测未来的攻击趋势，并实现对繁芜攻击行为的精确相应。
详细到网络安全的运用处景中，AI技能常日采取“整体优先，逐步深入”的剖析策略，从宏不雅观视角对安全态势进行评估，再深入到细节剖析。例如，AI能够基于历史数据和实时监测信息，预测潜在威胁并识别攻击趋势，这种宏不雅观与微不雅观相结合的办法，使得安全防御体系能够更加全面和高效地应对繁芜多变的网络攻击。
然而，只管AI技能为网络安全带来了新的发展机遇，但其运用也伴随着许多不愿定性和寻衅。AI模型的演习和运用须要大量的高质量数据和强大的打算能力，同时，如何保障模型输出的可靠性和可阐明性也是企业面临的难题。要更好地运用这些技能，企业须要在数据管理、模型优化和实际支配等方面不断探索和改进。
寻衅与本地化之路现阶段，人工智能AI技能运用于网络安全领域面临着如下范例运用寻衅：
1. 数据寻衅
格式寻衅：AI技能善于处理非构造化数据，如图像和文本，但网络安全数据常日具有高度构造化的特点，且数据维度差异较大。这种数据格式上的差异，使得AI算法在运用于网络安全时碰着障碍。安全数据的多样性和繁芜性对AI模型的解析和理解提出了更高哀求。体量寻衅：网络安全数据种类繁多，难以涵盖所有可能的攻击类型。模型演习数据的不敷会导致AI模型的泛化能力不敷，即模型只能对特定场景表现良好，无法有效识别未见过的攻击行为。此外，数据来源的局限性随意马虎使模型陷入“捷径学习”误区，即模型只学习到表面特色，无法真正理解攻击行为的实质。定义模糊寻衅：网络安全中关于观点和技能的定义每每不足明确。例如，病毒、木马和蠕虫等恶意软件的定义存在交叉，而高等持续性威胁（APT）的识别标准也分歧一。这种定义上的模糊性导致数据标注时随意马虎涌现偏差，进而影响模型的演习效果和准确性。2. 模型演习与标注寻衅
动态标注：网络安全环境繁芜多变，传统的静态数据标注办法难以适应实际需求。为提升数据标注的准确性和有效性，需采取风雅化切分、规则过滤和弱监督聚类等动态标注方法。这些方法能够根据不同场景和需求灵巧调度标注策略，使模型在处理繁芜数据时具有更高的精准度。算力瓶颈：AI模型在运行时常日须要大量的打算资源，但网络安全产品的硬件性能每每难以知足这一需求，安全产品支配到实际环境中时无法支持繁芜模型的高效运行。因此，在有限算力条件下，如何优化模型性能，如何将AI模型的能力有效运用在当前安全产品中，成为AI技能在网络安全领域运用的关键寻衅。3. 阐明性与运维寻衅
AI模型的“黑箱”特性使得其决策过程难以阐明，这对安全事宜的因果剖析和模型决策的可阐明性提出了寻衅。为了提升AI模型的透明度和信赖度，可引入三种阐明性机制：
全局阐明：通过全局数据集中的特色交互关系，解析模型的整体决策逻辑，利用户能够理解模型的决策依据。因果阐明：对模型中特定决策进行局部阐明，剖析单个样本或样本组的详细行为及其影响成分。增强认知：利用AI模型对数据进行深度剖析与归纳，帮助安全职员更好地理解安全事宜，提高对模型的信心和信赖。
针对上述寻衅，杨刚师长西席表示，AI技能在网络安全领域的运用须要进行本地化处理，以更好地知足实际需求。以下是几项关键确当地化策略：
数据层面的处理： 根据网络安全数据的特性，采纳适当的解析策略，提取完全且具备代表性的样本特色。在此过程中，需特殊关注非字符化特色，如流量模式和通信行为，从而担保数据在AI模型演习中的有效性和准确性。模型层面的优化：为应对算力不敷的问题，将AI模型详细化为情报和规则，便于在实际环境中支配和运用。这种优化策略能够在低算力场景中保持模型性能的同时，提升其对繁芜安全事宜的应对能力。支配层面的分布式设计：构建分布式探针与智能引擎相结合的安全防御体系。通过将流量探针、终端探针、蜜罐和测绘系统联动支配，形成集中调度的安全防御网络，从而提升安全事宜相应的及时性和防御的整体性。运维层面的阐明性提升：通过引入多种阐明性机制，提升对AI模型决策过程的理解，确保模型输出结果的透明性和可阐明性。这不仅有助于提升安全职员对模型的信赖度，还能知足安全监管和合规审计的需求，为企业安全运维供应更加可靠的保障。未来展望AI技能在网络安全中的运用越来越被重视，尤其是天生式AI、云原生和AI增强软件工程等技能。但同时，过高的期望值也导致了部分技能进入“泡沫分裂低谷期”，这意味着企业在采取这些技能时须要保持谨慎态度，并着眼于长期的技能成熟和运用落地。
从环球趋势和中国本土化运用来看，虽然两者的成熟度曲线存在差异，但AI驱动的网络安全技能无疑是未来的发展方向。在未来的2-5年内，如何有效地运用这些新兴技能，将成为网络安全领域的关键寻衅。
写在末了
虽然AI技能在网络安全领域确当地化运用已经取得了一定的进展，但仍旧面临着诸多技能和实践上的寻衅。未来，随着业务和技能的进一步发展，AI将逐步在网络安全中扮演更加主要的角色，实现从“能用”到“好用”的飞跃。
总体而言，AI技能的引入为网络安全注入了新的活力和可能性，但其本地化运用须要在数据、模型、支配和运维等多个层面进行不断优化与迭代。面对繁芜多变的网络环境，安全行业必须在AI技能的引领下持续创新，才能有效应对日益严厉的网络安全威胁。
高朋们分享的 PPT 将在安全极客知识星球进行分享，欢迎大家关注，以获取更多干货内容。