周二深夜11点47分，通知来了。你过去两周打开过十七次的银行应用自动刷新余额，数字跌破了那条线——11月跌破过，12月又跌破过，1月发薪日前夕再跌破一次。规律清清楚楚。深夜的时间、独自在家的地点、工作日、滑动速度变慢、两次点击之间的停顿拉长，同样清清楚楚。在一个你从未见过的系统里，某个模型判定：就是此刻。贷款推荐浮了出来。利率被一种算法特有的温和自信呈现出来，这个算法在聚合层面观察过几十万个处境相似的人点了“同意”。

个性化还是操纵，现有监管几乎测不出来

打开网易新闻 查看精彩图片

刚才发生在你身上的，究竟是个性化服务还是操纵，取决于一系列假设，而今天几乎没有任何现行消费者保护制度有能力检验这些假设。它取决于平台知道什么、推断出什么，以及你表示同意的那个瞬间，是你深思熟虑能力最强的时刻，还是最弱的时刻。它取决于一个直到最近监管者才勉强有词汇去问的问题：当一个算法识别出你焦虑、孤独或财务紧张，并利用这一点影响你的下一个决定时，到底发生了什么？谁该为此负责？

这个问题如今已经进入欧洲和英国监管注意力的中心。2026年4月发表在《心理学前沿》上的一篇同行评审论文，研究法律、神经科学与人工智能驱动设计的交叉地带，提出当代数字平台越来越有能力实时推断用户的情绪和认知状态，并针对这种脆弱状态投放经过校准的说服性干预。英国财政部特别委员会2026年1月关于金融服务领域人工智能的报告得出结论：英国监管者在管理人工智能风险方面做得不够，观望姿态让消费者和市场暴露在潜在严重伤害之下。英国金融行为监管局2026年1月27日启动的米尔斯审查，明确开始检验消费者责任规则如何适用于人工智能驱动的个性化。在布鲁塞尔，欧盟人工智能法案第5条的禁令——包括禁止利用年龄、残疾或特定社会经济状况带来的脆弱性的人工智能系统——已于2025年2月2日生效，罚款最高可达3500万欧元或全球年营业额的7%。法律机器终于开始动了。

情感计算市场正在膨胀

与此同时，已经建起来的东西规模巨大。“情感计算”——用于识别和回应人类情绪状态的一整套技术——的市场，行业分析师预测将从2025年的大约1000亿美元增长到2030年代初的3000亿美元以上。推断的基础设施、工具、数据管道，都在快速扩张。

当系统能够识别脆弱时刻，并把商业推荐精确地投放到那个时刻，消费者保护的传统框架就显得格外吃力。传统框架假设的是一个大致理性的消费者，在信息充分的情况下做出选择。但深夜、独处、余额跌破阈值、滑动变慢——这些信号拼在一起，指向的恰恰是决策能力可能最弱的窗口。监管者过去没有语言描述这件事，现在有了，但法律能不能跟上技术，仍然是个悬而未决的问题。

英国财政特别委员会的态度已经明确：不能再等。金融行为监管局的审查也在追问，消费者责任规则能不能覆盖算法驱动的个性化。欧盟的禁令则直接把“利用脆弱性”列为禁止行为。三套动作指向同一个方向：当算法学会识别你的脆弱，监管者必须学会识别算法的责任。