关于用户隐私以及组织如何保护个人信息安全的问题是长期以来的关注。随着使更多的人上网，公共和私营部门组织都必须更加警惕地保护其网络。

对于任何网络或系统，前线防御职责都应由入侵检测系统承担，入侵检测系统可以基于规则，也可以基于算法。基于规则的IDS(例如，锁定期间的安全检查点)会在允许所有流量通过之前，对所有流量进行一系列规则处理。另一方面，基于算法的IDS使用机器学习来根据流量动态创建新的检测算法。

这两种系统都可以分析并识别流量为好还是恶意，在保护系统或网络免受攻击中起着至关重要的作用。由于网络安全团队和网络分子都可以使用先进的技术，因此当今许多IDS系统都基于AI。但是，随着威胁的动态发展，为这些机器遵循一套规则变得越来越困难。这是让机器自行处理编写规则的地方。

人工智能驱动的入侵检测

面对所有网络攻击和数据泄露，IT团队正在转向AI来加强其安全性工作。入侵检测在AI方面的应用正在缓慢发展，全球有44%的组织在2018年开始使用某种形式的AI来检测和阻止对其网络的安全攻击。虽然使用基于AI的IDS的数量应该要高得多，仍在积极发展中。

挑战之一是对抗性AI。现代IDS擅长检测常规入侵，但在对抗性AI攻击方面却无能为力，在这种攻击中，攻击者向AI训练数据中注入了恶意输入(错误的肯定和否定)。当正确的流量被误标记为恶意流量并在进入系统之前被拒绝时，会发生误报。错误否定的作用恰恰相反：恶意流量被认为是好的，并被允许进入系统。对抗性AI使用误报和否定来欺骗系统，使恶意流量进入并渗透到网络中。

随着研究人员使用蜜罐式防御来增强用于欺骗技术的机器学习，与对抗性AI的斗争目前正在有希望的发展。欺骗技术被定义为放置在网络周围战略区域的诱饵系统或陷阱。这些诱饵或蜜罐吸引了攻击者的注意力，这些攻击者会侵入经过精心设计的网络，以使攻击者感到困惑。它们使对手更难找到真实资产所在的位置，并让观察者在攻击者探查网络时观察其战术。

现有欺骗技术的一个缺点是防御主要是静态的，并且系统无法从先前的攻击中学到任何东西。但是，启用AI的对手会随着时间的推移而学习，并且只要有足够的时间和数据，就可以将蜜罐与真实资产区分开，并击败诱饵防御。