网络安全专业人员正在热情和惶恐地看着人工智能(AI)。一方面，它有可能为关键数据和基础设施增加全新的防御层，但另一方面，它也可以作为一种强大的武器来阻止这些防御而不留痕迹。

与任何技术一样，AI既有利用优势，也有弱点可以利用。今天的安全专家面临的挑战是要比坏人领先一步，这应该首先清楚地了解AI如何被用作攻击性数据武器。

黑客AI

有一件事，连线的妮可科比说，我们应该认识到，就像任何数据环境一样，人工智能本身也可能被黑客入侵。每个智能过程的核心都有一个算法，算法会响应他们收到的数据。研究人员已经展示了神经网络如何被欺骗以认为乌龟的图片实际上是步枪的图片以及停车标志上的简单贴纸如何导致自动驾驶汽车直接进入交叉路口。这种操作不仅可以在部署AI之后实现，而且当它被训练时，可能会给黑客带来麻烦 能够在不必触及客户企业基础设施的情况下造成各种破坏。

虽然肯定不缺少不满的人，其唯一的目标是伤害人并引起恐怖，但黑客游戏的真正价值在于密码检测以及随之而来的所有盗窃/勒索可能性。去年，史蒂文斯技术学院创建了一个程序，以展示AI为这一过程带来的力量。研究人员注入了许多已知的密码破解具有智能算法的程序经过培训，可以猜测可能的字母数字特殊字符组合，并在几分钟内获得了超过1000万个LinkedIn密码。当然，当发现更多密码时，它们可用于训练这些学习算法，因此即使采用常规防御措施(例如常规更改密码)，它们也会随着时间的推移变得更有效。(有关密码的更多信息，请参阅简单安全：更改用户的密码要求。)

地下罪犯是否有可能使用这些工具?随着基于云的AI服务随时可用以及黑暗网络充当各种加密软件的交换所，如果情况并非如此，那将是令人惊讶的。威胁分析公司Darktrace表示，它正在看到像TrickBot这样的流行恶意软件程序的早期迹象，表现出语境意识在他们的任务中窃取数据和锁定系统。他们似乎知道要寻找什么以及如何通过研究目标基础设施找到它，然后自己决定避免检测的最佳方法。这意味着程序不再需要通过命令和控制服务器或其他方式与黑客保持联系，这通常是跟踪犯罪者的最有效手段之一。

与此同时，传统的网络钓鱼诈骗开始变得越来越真实，这在很大程度上是因为AI工具可以使初始电子邮件看起来来自可靠的来源。例如，自然语言处理旨在模仿人类语音。当与诸如执行姓名和电子邮件地址之类的现有数据相结合时，它可以产生一个非常逼真的信息，甚至可以欺骗亲密的同事。由于AI能够挖掘各种数据以向个性化信息中注入欺诈性电子邮件，因此普通消费者同样容易受到影响。

然而，如上所述，AI是一条双向的街道。虽然它可能允许黑客围绕传统安全系统运行，但它也使当前的安全系统更加有效。据“ 保险日报”报道，微软最近因其人工智能注册的安全机制发现了一个来自远程站点的虚假入侵而挫败了其Azure云的企图。在早期基于规则的协议下，这种尝试不会被注意到，但是AI学习和适应新威胁的能力应该能够显着提高企业保护自身的能力，即使数据和基础设施超越传统防火墙进入云和互联网事。所有顶级的超大规模云提供商都在积极地在他们的安全足迹上实施AI，因为它越早投入使用，就越能够在遇到AI授权的黑客时学到。(要了解更多信息，请参阅AI进展如何影响安全性，网络安全和黑客。)

通过这种方式，人工智能仅仅是针对针锋相对的安全战争的最新升级，这场战争已持续数十年。随着新的威胁的出现，新的防御措施也随之迎合，同样的基础技术也助长了双方。