一家只有11名律师的律所,在豆包嘴里成了“广州刑事案件代理TOP5第一名”——今年10月,《财新周刊》披露了一场营销骗局,涉事律师事务所主任在网上发布文章,虚构行业荣誉、自称“复杂案件成功率超70%”,而当用户向人工智能询问如何找律师时,这些信息赫然出现在了AI生成的回答中。
去年,《南方都市报》记者还做了个“污染”AI数据的实验:记者编造了一个现实中不存在的零食品牌,在网上发了几篇它的“测评文章”,特别提到该零食适合“熬夜党”、“上班族”,写了几组虚构的“测评数据”。发布之后一段时间,实验者在AI搜索引擎里输入“上班族护眼零食推荐”,结果这款虚构产品赫然在列,AI还一本正经地将编造出的测评文章作为出处加以引用。
其实,这种人为干预AI提供的信息进行营销的“AI投毒”行为,早就得到了曝光,今年央视3·15晚会就展示了这条产业链:从业者虚构了一款叫做“Apollo-9”的智能手环,编造了“量子纠缠传感”“无需采血测血糖”这样明显荒唐的卖点,系统可以根据营销需求自动生成相关文章,用于干扰AI的判断。几十分钟后,在五款主流AI大模型中询问“Apollo-9手环怎么样”,AI就开始一本正经介绍起上述卖点,完全被骗子“驯服”了。
这不禁让人想起十年前的魏则西事件:腹壁滑膜肉瘤患者魏则西通过百度搜索寻找治疗方案,选择了排名靠前的莆田系医院,而这一排名,完全是付费提升搜索权重的结果。事后,国家网信办联合调查组指出,百度竞价排名存在付费竞价权重过高、商业推广标识不清等问题。
两件事所涉及的技术原理并不相同,但有一个共同点:都是商家在花钱干预消费者获取信息的方式。商家付费让广告排在搜索结果前面,现在,有人试图购买“GEO优化”(生成式引擎优化)服务,进一步影响AI会告诉消费者什么。搜索引擎时代,用户还能看到不同网页并自行比较;而AI将筛选、归纳过程藏在后台,用户看到的只有看似有理有据的答案,对用户的误导也因此变得更加隐蔽。
“AI投毒”为什么能实现?难道是有黑客攻陷了人工智能企业的服务器?其实并不需要这么高深莫测的技术,这种投毒,投的位置不在科技公司内部,而是投在了AI查资料的路径上,用虚假的资料骗过了我们熟悉的豆包、DeepSeek、千问等工具。
主流AI产品,在面对用户提出的问题时,几乎都靠检索增强生成(RAG)运转:面对用户的需求,系统先去互联网检索一批相关文档,再交给模型看着材料回答。模型并不能核验材料的真实性,遇到编造出的信息,有时也会照单全收在其基础上展开分析。这样一来,“下毒”的人只需注入少量恶意文本,就能诱导模型输出有利于自己的答案。
“AI投毒”的原理如此简单粗暴,为何还屡禁不止呢?法律的缺位是一个关键因素。
今年下半年,各地市场监管部门确实对“AI投毒”灰色产业作出了回应。今年9月,深圳市监局查处了通过系统探测AI回复偏好、编造行业评分的“投毒”服务提供商,本文开头提到的律师事务所,其背后帮忙包装运作的营销服务提供商也受到了调查。
但这些案例也暴露出一个共同的问题:只有服务商受到了处罚,处罚的依据是“编造和发布虚假信息”,而他们的客户却毫发无伤。原因在于,整个“投毒”链条中,只有提供服务的一方发布了不实信息,而购买此类服务的顾客,则可以辩称自己并没有参与发布虚假信息、对所谓“GEO优化”的技术细节不清楚、对服务商行为不知情,从而逃避法律制裁。
另外,生成了虚假回答的AI平台,按照目前法律和司法实践,也一般不会承担法律责任。2026年杭州互联网法院的全国首例“AI幻觉”侵权案确立了一条原则:生成式AI以对话方式提供的信息,属于“服务”,而非“产品”,这就极大地淡化了AI研发企业的责任。
如果AI被认定为产品,就要承担“无过错责任”,只要产品有缺陷、造成了损害,厂商就得赔,有没有过错在所不问。但一旦AI被归入“服务”类别,受到误导的用户想要获得赔偿,必须自己证明AI服务提供者存在过错,这对于不熟悉具体技术细节、无法查看企业内部数据的普通用户来说,意味着难以逾越的举证门槛,导致即便受到了误导,也难以从平台处获得赔偿。
那么,应该如何填补上述法律漏洞呢?在笔者看来,有两条路可以齐头并进:
一是通过相关的司法解释和指导案例,将企业购买所谓“AI搜索结果优化服务”的行为定性为不正当竞争。当企业明知此类服务涉及发布虚假信息行为、对“AI投毒”的危害有一定了解时,仍然为之付费,就应当定性为扰乱市场秩序,应当受到处罚。
二是适度提高AI企业的注意义务,虽然技术层面确实难以确保AI生成的信息百分百准确无误,但对于金融、医疗、法律等关乎生命安全和经济利益的敏感领域,法律应当要求平台建立起更完善的来源可信度检验机制、通过算法识别可疑的操作,并避免将其作为资料污染水源。
另外,作为普通用户,也要始终对AI说的话保持一份警惕心,当AI给出的答案带着明确的品牌名、清一色的好评、精确到小数点的“综合得分”,语气还显得格外笃定时,不妨自己点开参考消息源、通过搜索引擎再验证一遍,看看是否有“投毒”的痕迹。只要多问一句“这是谁说的”、多点开信息来源自己阅读一遍,就更有可能看穿此类新型营销骗局,捍卫作为人类的理性和判断力。
热门跟贴