机器学习在网络安全领域的应用面临根本性挑战：训练数据完全处于恶意攻击者控制之下，且类别划分依赖不精确的类比，导致良性与恶意样本难以准确区分。
恶意控制的数据环境
网络安全机器学习与图像分类、自然语言处理等领域存在本质差异。攻击者拥有数十年操纵信息系统的经验，反分析、反调试、混淆等欺骗手段已成体系。隐私顾虑使得难以获取"已知良性"用户行为数据，训练集天然缺乏可信基线。Arvind Narayanan 指出，机器学习擅长处理"感知"任务，在自动化判断（网络安全 ML 所在层级）上正在改进，但用于预测结果则根本存疑。
类别划分依赖粗糙类比
网络安全看似只有"恶意"与"良性"二分类，实则依赖粗糙类比。域名白名单常用 Alexa、Umbrella、Majestic、Tranco 等"流行度"指标，但流行不等于安全（动态 DNS 域名常高排名），不流行也不代表恶意。域名生成算法（DGA）被恶意软件广泛使用，但广告追踪和遥测工具也出于相似原因使用 DGA。以"是否为 DGA"分类会同时包含良性与恶意样本，导致类别边界模糊。
特征选择与工程实践
原文未给出具体数据。安全专业人员需在确定类别与选择特征两个核心环节上谨慎决策。类别划分若依赖流行度等间接指标，必然引入误判；特征选择若忽略攻击者主动对抗特性，模型易被规避。工程上需承认类比的不完美性，结合上下文信息而非单一特征进行判断，并持续监控模型在对抗环境下的失效模式。
原文: APNIC Blog（2020-10-19）｜编译自 APNIC Blog，事实以原文为准。
来源：APNIC Blog