博客

我是前中央情报局网络行动官员,研究机器人流量。 这就是为什么超过 80% 的 Twitter 账户实际上是假的这一说法是可信的——而且 Twitter 并不是唯一一个假账户。

Dan Woods 缩略图
丹·伍兹
2022 年 7 月 14 日发布

说到这儿,你可能已经听说了 Twitter(一家并未寻求被收购的公司)与伊隆·马斯克(Elon Musk)之间失败的收购案以及浮现出的法律纠纷,而马斯克已经撤回了收购要约。

这场冲突的核心是机器人流量问题,我对此有相当了解。 在过去的六年里,我的工作是领导一个数据科学家团队,他们分析网络交互以识别机器人、机器人所针对的应用及其目标。

平均而言,每天约有 20 亿笔交易流经 F5 的机器人防御基础设施,我们已向几乎各行各业的数百家公司介绍了他们的机器人流量。

根据这一经验,Twitter 的机器人流量几乎肯定远远大于他们公开表达的,甚至比他们内部认为的还要大。 公平地说,对于所有受到恶意或不受欢迎的机器人攻击但又不使用一流技术来消灭它们的组织来说,后者可能是这种情况。

以下是我们在过去几年中对机器人的一些了解,以及我们为什么如此容易得出这样的结论。

机器人总是试图完成某件事。

允许客户登录在线帐户的组织将看到针对登录应用的自动化操作,以尝试进行某种类型的欺诈。 在线提供特殊价格的组织将看到用于抓取转售价格、票价和费率的自动化系统。 类似的例子还有几十个。

就 Twitter 而言,一个关键的激励因素是获得关注者。 人们认为,粉丝越多,他们的推文就越有趣,事实上,粉丝越多的账户往往更有影响力。

扩大影响力的目标是这一模型令人担忧的地方。 想象一下,如果你能自动控制数百万个与公众人物和普通公民的真实账户互动的 Twitter 账户,你可能会产生多大的影响力。 这可能会吸引积极性高、资源几乎无限的国家行为者。

如果有激励和手段,就会有更多的机器人。

Twitter 上不仅有巨大的激励,而且还有手段。 互联网上有无数的服务(包括暗网/深网市场)提供收费的 Twitter 账户、关注者、点赞和转发。

为了研究目的,我在自己创建的 Twitter 帐户上尝试了这些服务。 继续测试,花费不到1000美元,这个账户现在就有了近10万名粉丝。 我曾经发过一条完全胡言乱语的推文并付费让粉丝转发。 他们确实这么做了。 这些账户的名称类似于 TY19038461038,并且他们还关注很多其他账户。

我开始想知道使用自动化技术创建 Twitter 帐户有多么容易。 我不是一名程序员,但我在 YouTube 和 Stack Overflow 上研究了自动化框架。 事实证明,这很容易。

为了将我的测试提升到一个新的水平,我花了一个周末的时间编写了一个可以自动创建 Twitter 帐户的脚本。 我的相当不成熟的脚本没有受到任何对策的阻止。 我没有尝试更改我的 IP 地址或用户代理,也没有做任何事来隐藏我的活动。

如果对于技能有限的人来说尚且如此简单,想象一下对于一个由技术高超、积极进取的个人组成的组织来说这会是多么容易。

企业经常低估其机器人问题的规模。

几年前,一家美国社交网站部署了 F5 的机器人防御系统,发现 99% 的登录流量都是自动化的。 是的,你没看错——99%。

事实上,我们发现许多应用上的 80–99% 的流量都是自动化的。 这些发现并非个例——它们在许多组织中很常见(零售商、金融机构、电信公司和快餐店等)。

这对于公司来说无疑是一个毁灭性的消息。 他们知道自己存在机器人问题,但从未想过问题会如此严重。 我很快就领悟了其中的含义。 他们的客户账户中只有一小部分是真正的人类客户。 其余的都是机器人。

对于社交网络公司来说,每日活跃用户(DAU)的数量(所有账户的一个子集)在估值中起着重要作用。 披露他们的 DAU 只是他们所认为的一小部分,导致他们的价值大幅下降。

从机器人中受益的企业并不总是想知道。

有人可能会说,如果该组织从未了解真相,而是简单地声称他们的机器人问题不到 5%,那么对于该公司的股东来说会更好。

这种压力不仅仅适用于以DAU数量决定估值的社交网站。 对于销售库存有限且需求量大的产品(如音乐会门票、运动鞋、名牌钱包或下一代 iPhone)的公司来说,情况也是如此。

当这些产品在几分钟内被机器人卖掉,然后又在二级市场上以高价转售时,就会让顾客感到厌烦。 但企业仍然很快就销售一空了所有库存。 

在这些情况下,公司可能希望表现出他们正在尽一切努力阻止机器人,但私下里却做得很少

这不仅仅是 Twitter 的问题——机器人问题是每个人的问题。

当我考虑到我们今天看到的自动化的数量和速度、给定的激励措施可能吸引的机器人的复杂程度、以及我在自己的研究中看到的相对缺乏的对策时,我只能得出一个结论: 很有可能,超过 80% 的 Twitter 账户实际上都是机器人。 这当然是我的看法。

我相信 Twitter 正在努力防止其平台上出现不必要的自动化,就像每家公司一样。 但他们很可能正在应对来自极具动机的参与者的高度复杂的自动化手段。 在这种情况下,机器人修复不是一个 DIY 项目。 它需要同样复杂的工具。  

然而,这里还有更重要的事情需要考虑。 机器人的问题比任何广告收入、股票价格或公司估值都要大。 如果任由这个问题持续下去,将会威胁到我们整个数字世界的基础。

允许机器人从任何地方扩散会导致损失数十亿美元的大规模欺诈。 它毁了人们的生活,并为国家和邪恶组织传播错误信息、制造冲突甚至影响政治进程提供了工具。 这意味着更多的欺诈、更多的错误信息、更多的冲突,影响我们在世界范围内沟通和相互联系的能力。

如果我们作为一个社会想要拥有互联网和移动互联世界的所有便利、知识、娱乐和其他好处,我们就必须对在线自动化流量采取措施。 对抗机器人的唯一方法是使用我们自己的高度复杂的自动化技术。

作者:F5 全球情报主管 Dan Woods