以色列总理本雅明·内塔尼亚胡周一指控，巴基斯坦境内的运营者正在运行复杂的“水军农场”，旨在削弱美国对以色列的支持，并破坏美以联盟。
内塔尼亚胡在接受美媒采访时称，有人利用冒充普通美国人的虚假网络身份在社交媒体平台上塑造舆论。他表示：“有几个国家基本上在用机器人水军和虚假地址操纵社交媒体，以瓦解美国对以色列的同情，并破坏美以联盟，因为他们认为这符合自身利益。”
他补充说：“就像你听到一条短信，‘我是一个热血得克萨斯人，我一直支持以色列，但我无法容忍他们现在做的事’，然后转而反对以色列，接着你追查地址，发现它来自巴基斯坦某个地下室。”
内塔尼亚胡此番言论正值人们对协调性数字影响力行动日益担忧之际，尤其是在人工智能工具使得大规模制造令人信服的虚假内容和身份变得更加容易的背景下。
在采访中，美国记者也对内塔尼亚胡提出质疑，询问美国人对以色列态度的转变是否可能部分是自发形成的，而非完全由外部操纵驱动。内塔尼亚胡承认一些舆论转变是真实的，但他坚持认为，协调性的网络影响力行动在线上显著放大了反以色列的叙事。
那么，究竟什么是水军农场？它们如何运作？为什么各国政府和社交媒体公司对此越来越担忧？
什么是水军农场？
水军农场是一个由社交媒体账号组成的协调性网络，用于人为地影响在线对话。这些账号可以是全自动的、部分自动的，也可以是由真人协调手动操作的。
其目标通常是放大某种叙事、推送宣传、操纵热门趋势、攻击对手、制造公众支持的假象，或大规模传播虚假信息。
“机器人”一词源自“robot”，指能够比人类更快地执行重复性在线操作的自动化软件。单个运营者可以同时控制数十个、数百个甚至数千个账号。
水军农场通常在多个社交媒体平台上运作。
虽然有些与政治宣传或国家支持的影响力行动有关，但另一些则被用于商业诈骗、金融欺诈、制造虚假互动、推广加密货币或协调性骚扰活动。
水军农场实际上如何运作？
大多数水军农场依赖自动化工具与人工监督相结合。
法尔希表示，水军农场的放大操作越来越依赖连接USB集线器的智能手机阵列、SIM卡、移动代理、IP地理位置欺骗和设备指纹识别工具，而非传统的软件机器人，这使得平台识别此类操作的难度大大增加。
运营者首先会创建大量账号，通常使用假名字、AI生成的个人资料照片和虚构的个人简介。这些账号被设计成看起来像是来自特定国家或社区的普通用户。
大西洋理事会数字取证研究实验室的研究员瓦伦丁·沙特勒告诉媒体：“机器人账号会潜伏一段时间，然后在某个时刻被激活并开始同步发布内容，这是我们观察到的实际行为。它们会点赞同一篇帖子，以人为提升其互动量。”
其目标并不总是直接说服所有人。相反，目的往往在于操纵平台算法，使其相信某个话题、标签或观点获得了巨大的自然关注。如果足够多的账号同步放大同一内容，它就可能成为热门趋势，并触达真实用户。
在许多操作中，自动化机器人与真人运营者协同工作。真人可能撰写富有情感说服力的帖子或回应批评，而自动化系统则负责大规模转发和放大。
人工智能如何改变了游戏规则
人工智能极大地提升了网络影响力行动的复杂程度。AI工具现在可以生成不存在之人的逼真头像照片，用多种语言制作令人信服的文本，模仿写作风格，并制造虚假的视频或音频片段。这使得虚假账号比以往任何时候都更像真人。
自能够数秒内生成逼真视觉内容的生成式AI平台兴起以来，这种担忧急剧增加。深度伪造视频、AI生成的战争画面以及被篡改的演讲正越来越多地被用于冲突和选举期间。
今年早些时候，社交平台产品主管尼基塔·比尔透露，X已瓦解了一个与巴基斯坦有关的网络，该网络运营着数十个发布AI生成战争视频的账号。比尔说：“昨晚，我们发现在巴基斯坦有一个人管理着31个发布AI战争视频的账号。这些账号全部被黑，用户名在2月27日被改为‘伊朗战争监测员’或类似名称。”他指出，社交平台“在检测这种行为方面变得快得多，同时也在消除这样做的动机。”
社交媒体公司如今面临着越来越大的困难，难以区分真实活动与协调性的影响力操作。
机器人、喷子农场和虚假身份：有何区别？
这些术语经常互换使用，但含义并不总是相同。
机器人主要是由软件运行的自动化账号。它们可以在无人持续控制的情况下发布内容、放大标签以及与用户互动。
而喷子农场通常涉及有组织的真人团队，他们故意在网上挑衅、操纵或传播宣传。许多现代影响力行动结合了这两种手段。
虚假身份是另一个重要元素。它们是精心设计的虚构网络身份，旨在模仿普通公民、活动人士、退伍军人、学生或政治支持者。
为什么政府和平台感到担忧？
最大的担忧在于，水军农场可以通过制造虚假的共识来扭曲公共讨论。如果成千上万的协调账号重复同样的信息，普通用户可能会开始相信某一观点被广泛接受，即使它只是被人为放大。
亲以色列媒体监督机构HonestReporting的首席执行官杰基·亚历山大告诉媒体：“30岁以下的人不再用谷歌搜索了。他们去社交媒体搜索他们想找的问题。”
各国政府还担心，外国行为者可能利用此类网络干预选举、激化族群矛盾、在战争期间操纵舆论或在危机期间制造恐慌。
过去十年中，多个国家指责外国网络运行协调性的网络影响力行动。俄罗斯被指控干预美国和欧洲的选举。
印度也在军事紧张或恐怖事件期间多次对源自巴基斯坦的虚假信息运动表示担忧。在去年印巴冲突升级之前，印度当局封禁了多个被指控在网上传播虚假信息和捏造内容的与巴基斯坦有关的社交媒体账号。
内塔尼亚胡还辩称，此类影响力行动不仅旨在损害对以色列的支持，还旨在加深美国内部的极化。他将社交媒体和网络影响力行动描述为现代冲突中的“第八条战线”，认为当今国家越来越需要打两场平行的战争——一场在战场上，另一场在网络数字平台。
为什么水军农场难以阻止？
社交媒体平台每年移除数百万个虚假账号，但问题依然存在，因为这些网络不断演变。运营者频繁更改用户名、使用被盗账号、转向新平台，并依靠VPN服务隐藏真实位置。
社交媒体威胁情报公司Narravance的首席执行官亚当·索恩告诉媒体：“区分真实活动和非真实活动非常困难。对我们来说都很难，而我们是全球最擅长这件事的公司之一。”
平台还面临微妙的平衡。激进的审核可能导致审查指控，而宽松的审核则让虚假信息网络得以滋生。随着地缘政治紧张局势不断蔓延到数字世界，网络影响力行动很可能会变得更加复杂。
热门跟贴