在深假视频成为对用户隐私的新威胁之时，一个来自印度的研究团队开发了人工智能（AI）驱动的深度神经网络，能够以高精度识别像素级的操纵图像。

现实的视频，将一个人的面部表情映射到另一个人的面部表情，被称为深度假动作，在民族国家的坏演员手中呈现出可怕的政治武器。

在加州大学河滨分校电气和计算机工程教授阿米特·罗伊-乔杜里的领导下，该团队目前正在研究静止图像，但这可以帮助他们检测“深假”视频。

Roy-Chowdhury说：“我们训练了这个系统来区分被操纵和非操作的图像，现在如果你给它一个新的图像，它能够提供一个图像被操纵或不被操纵的概率，并定位图像的区域。

深度神经网络是人工智能研究人员所称的计算机系统，它们被训练来完成特定的任务，在这种情况下，识别改变的图像。这些网络是以连接层组织的；“体系结构”是指它们之间连接的层数和结构。

虽然这可能欺骗了肉眼，但当逐个像素检查时，插入对象的边界是不同的。

例如，它们往往比自然物体更光滑。通过检测插入和移除对象的边界，计算机应该能够识别更改的图像。研究人员用一组它从未见过的图像对神经网络进行了测试，并在大部分时间里检测到了改变的图像。它甚至发现了被操纵的区域。

Roy-Chowdhury在《IEEE图像处理交易》（IEEE Transactions on Image Processing）杂志上发表的一篇论文中解释说：“如果你能理解静止图像中的特征，在视频中，它基本上只是将静止图像一个接一个地组合在一起。

“更根本的挑战可能是弄清楚视频中的帧是否被操纵”。

即使是一个被操纵的框架也会升起一面红旗。

然而，Roy-Chowdhury认为，在自动化工具能够在野外检测到“深假”视频之前，我们还有很长的路要走。

“这是猫捉老鼠的游戏。网络安全的整个领域在某种程度上是试图找到更好的防御机制，但随后攻击者也找到了更好的机制。”