技术的黑暗面是纽约媒体实验室第二次机器+媒体会议探讨的主题之一，该会议由彭博在5月15日在该市的全球总部赞助和主持。虽然有些会议更多的是关于看什么技术目前可供媒体使用，甚至那些带来操纵和错误信息的影子。

一个好故事比整个真相更具吸引力

在题为“最新技术”的会议上，Buzzfeed 数据科学负责人副总裁Gilad Lotan 指出，虚假或误导性新闻的问题不能仅仅归咎于媒体公司或新技术。“人们不一定在寻找事实，”他说。“读者想要故事。”

他补充说，对故事和偏好的叙述的渴望可能导致虚假新闻“更多的操纵而不是虚假信息。”事实上，所提供的故事可能根本不包含任何虚假内容。虚假的是，报道的事实被挑选出来并从较大的“背景”中删除，以引导“读者得出结论”。

同样，在“平台+媒体”会议上，来自威廉和弗洛拉休利特基金会美国民主倡议的凯利出生说：“人们喜欢加强他们信仰的新闻，特别是如果它引发愤怒。”她警告媒体的资本化在这种趋势上可以导致一场“完美风暴”，从而带来我们最糟糕的情况。完全捏造的演示的可能性加剧了这种情况。

看到仍然相信?

技术通过图像和视频讲述故事。我们通常相信我们看到的东西，除非有明显的操纵迹象。然而，随着人工智能改善虚假视频的真实性，现在可以将字面插入公众人物的口中。(AI不仅被用于恶意目的。在公司可能想要使用AI的5种方法中查看一些有建设性的方法。)

人工智能制作非常可信的视频的危险在题为“机器驱动媒体黑暗面的解决方案”的会议中得到了证明。它首先播放了巴拉克•奥巴马(Barack Obama)的一段视频，讲述了前总统从未真正说过的话。这个动作仍然与单词略有不同步，所以它有一些伪造视频的标记，大多数观众都表示他们可以认出它是假的。

奥巴马的视频操纵并没有实现将彼得·库欣复活为“莫里一世”的大莫夫塔金的现实主义。正如“纽约时报”的一篇文章所解释的那样，这种影响是通过让演员穿上“动作捕捉材料”来实现的。而在镜头前“这样他的脸就可以被库欣的数字再创作所取代。”这部电影的首席创意官/高级视觉特效总监称之为“超高科技和劳动密集型的做法”化妆。”

无法察觉的假货

现在，由于AI的进步，特别是生成对抗网络(GAN)，实现电影魔术效果比以往任何时候都更容易。利用GAN，一个AI系统可以对镜头进行细化，直到它足以被设计用于检测伪造的AI系统接受为真实。

在这段视频中，您可以看到研究人员演示了一个演员如何指导公众人物脸部的运动，以通过篡改视频中通常不具备的保真度来产生任何表达和声明。

虽然并非每个玩视频的人都有这样的系统，但是在不久的将来，该软件将在更多人的触及范围内。

可能的后果

Factmata创始人兼首席执行官Dhruv Ghulati表示，他“非常担心”这种能力如何应用于将不仅仅是世界领导者，而是将CEO和名人的面孔放入视频中，以证明他们的言论或行为他们没有。通过僵尸网络实现病毒效应，可以加强视频的破坏力。

Cornell Tech信息科学副教授Mor Naaman表示，这意味着我们“不再相信我们的谎言。” 他担心会导致失去信任。

其他人担心煽动暴力的火焰。社交媒体责任中心首席技术专家Aviv Ovadya表示，“只是略微修改过的视频”已被“用于引发发展中国家的暴力” 。

投资美国的合伙人莎拉哈德森表示担心，“大规模”操纵图像会对公共安全构成“难以置信的威胁”。

主动规划

奥瓦迪亚说，必须“尽可能多地防止这种虐待”。这就是为什么“在开发技术的同时提前考虑”关于“如何减轻不良影响”以及“投入资源来解决这些意外后果”的重要性。

不可能在时间上取得进展，但我们要做的是确保我们考虑并计划好的方向。这意味着不只是在研究技术，看看可以做些什么，而是考虑应该避免的可能做的事情。

技术创新的前进方向是思考可能产生的影响，并在危险实现之前制定保障措施。为此，我们需要研究人员，技术公司和政府机构之间的合作，以建立人们将遵守的标准和最佳实践。这应该是所有有关方面的优先事项。