Facebook在六个月内阻止超过30亿个虚假账户的惊人数字凸显了社交网络在控制自动账户或机器人以及操纵平台的其他邪恶努力方面所面临的挑战。

以下是假账户的四个关键问题：

怎么这么多假账户出现了?

Facebook本周表示，它在2018年的最后三个月“残废”12亿个假账户，2019年第一季度为21.9亿个。

大多数假社交媒体账户都是“机器人”，由自动程序创建，用于发布某些类型的信息 - 违反Facebook的服务条款，以及操纵社交对话的一部分。复杂的演员可以使用相同的程序创建数百万个帐户。

Facebook表示，其人工智能会检测大部分这些工作，并在帐户发布到平台之前禁用帐户。尽管如此，它承认超过20亿活跃的Facebook账户中约有5%可能是假的。

假帐户有什么危害?

虚假账户可能被用来放大人或运动的受欢迎程度或不喜欢，从而扭曲用户对真实公众情绪的看法。

研究人员表示，在2016年美国大选之前，机器人在传播社交媒体上的错误信息方面发挥了不成比例的作用。恶意行为者一直在利用这些虚假账户在世界许多地方播下不信任和社会分裂，在某些情况下煽动针对团体或个人的暴力行为。

Bots“不只是操纵对话，他们建立小组和桥梁小组，”卡内基梅隆大学计算机科学家Kathleen Carley说，他研究过社交媒体机器人。

“他们可以让一群人相信他们认为和另一组人一样，并且这样做会构成回音室。”

Facebook表示，其人工智能工具可以识别和阻止虚假账户的创建 - 因此可以发布错误信息。

“这些系统使用信号的组合，例如使用可疑电子邮件地址，可疑行为或之前与我们删除的其他虚假账户相关联的其他信号，”Facebook分析副总裁Alex Schultz在博客文章中说。

Facebook是否能控制局面?

Facebook东北大学复杂网络研究中心的博士后研究员Onur Varol表示，Facebook的透明度报告显示Facebook正在积极开展虚假账户。

瓦罗尔表示，“30亿是一个很大的数字 - 它表明他们不想错过任何虚假账户。但他们愿意冒一些风险”来禁用一些合法账户。

研究人员指出，合法用户可能会感到不便，但通常可以恢复他们的帐户。

他补充说：“我的感觉是，Facebook正在努力打击假账户”。

但Carley说，新的机器人变得越来越复杂，越来越难以检测，因为它们几乎可以像人类一样使用语言。

“Facebook可能已经解决了昨天的战斗，但这些事情的性质正在迅速变化，可能无法获得新的，”她说。

瓦罗尔表示赞同，并指出“有机器人能够理解自然语言，能够对人们做出反应，这就是为什么保持研究的重要性。”

我应该担心机器人和假帐户吗?

研究人员表示，许多用户无法区分真假帐户。Facebook和Twitter一直在加紧识别和清除虚假账户，而Varol和其他研究人员开发的一些公共工具如Botometer可以帮助确定假账户和关注者的可能性。

印第安纳大学研究社交媒体的计算机科学家Filippo Menczer说：“如果你使用Facebook与家人和朋友交流，你就不必担心。”

“如果你用它来访问新闻并与朋友分享，你应该小心。”

Menczer表示，许多Facebook用户很少关注材料来源，最终可能会分享虚假或误导性信息。

“每个人都认为他们不能被操纵，但我们都很脆弱，”他说。

研究人员说，与机器人一起，人类代表了错误信息链中的一个关键因素。

“大多数虚假信息并非来自机器人，”卡利说。“其中大部分来自博客和机器人重播”，以扩大错误信息。

Facebook首席执行官马克扎克伯格表示Facebook正在寻求消除虚假账户的财务激励。

“我们看到的许多有害内容，包括错误信息，实际上都是商业动机，”扎克伯格告诉记者。“因此，最好的策略之一是取消在上游创建虚假账户的激励措施，这限制了下游的内容。