每次聊到《通用数据保护条例》(GDPR)第22条,同样的争论就会重来一遍。律师们争"关于所涉逻辑的有意义信息"到底指什么,工程师们则开始画SHAP图。

打开网易新闻 查看精彩图片

两边都把事情搞复杂了。真正让人栽跟头的,从来不是"模型是个黑箱",而是"你问的那条决策,我们找不到了"。

第22条本身一句话能说完:如果系统纯自动化地对某人作出决策,且该决策对其产生法律效力或类似重大影响,当事人有权理解背后的逻辑,并有权提出异议。把它翻译成工程任务,是下面这几件事。

  • 能不能取出那一条决策?不是模型,不是接口,是"这个人、这一天"的那条决策。有团队光搞清楚它存在哪张表里,就花了一整天。
  • 能不能还原当时的输入?如果特征来自一张后来被重建过的数仓表,"我们也不知道了"不是监管方会接受的答案。你需要系统当时实际看到的那份快照。
  • 能不能在合适的高度解释?没人要你的权重。提出异议的人想听的是:"你的得分是0.31,阈值是0.5。主要差距来自收入比和账户年限。"两句话,让一个没听过梯度下降的人也能看懂。
  • 人能不能真的提出异议,异议有没有被记录?申诉会成为这条决策历史的一部分。如果复核走邮件、然后邮件就断了,这条线就丢了。
  • 这些是不是防篡改的?最容易被忘掉的一条。投诉一到,你的日志就不再是运营数据,而是有争议的证据。如果某个有数据库权限的人能悄悄改掉六个月前的一行记录,前四条全部作废。只追加、可验证完整性——要求就是这个,故意做得很无聊。

注意这份清单里没有什么:可解释性研究。第22条面前,没有哪篇注意力可视化论文能救你。能救你的是把每一条自动决策当成一等、不可变的事件——写一次,输入留快照,解释被记录,之后谁都动不了。

难的部分不在技术。难的是大多数数据管道是为"输出预测"建的,不是为"事后作证"建的。在跑着的系统上补审计能力很痛苦,这件事做过的人都知道,预算要留得比你想的多。

所以这里有个测试:挑一条你的系统上周作出的自动决策,今天能不能拿出前三条,并且是监管方能接受的形式?

如果你的诚实回答是"应该可以,我跟数据团队确认一下"——那次确认,就是全部的关键。从那里开始。