2026年底,一位欧洲消费者起诉银行:贷款被AI拒了,他要求看决策依据。监管人员问了一个直白的问题——“把系统当时做了什么、凭什么做的记录调出来,并证明这份记录从生成到现在没被改过。”
你调出所有日志,却发现一个尴尬的事实:日志一大堆,但没有一条能回答这个问题。
大多数AI系统会产生两类日志。应用日志记录API调用和延迟,推理日志记录模型的输入输出token。调试很有用,但都不是监管、审计或法庭真正要的:决策记录——谁做的决定,依据什么规则,结果是什么,后续发生了什么。
欧盟AI法案第12条要求高风险AI系统在生命周期内自动记录事件。信用评分、招聘、保险定价等场景从2026年起陆续进入高风险义务,部署方必须保留这些日志至少六个月,金融领域更久。但法律只对目标说得很细,对实现机制几乎沉默:没指定格式,没说谁对完整性负责,更没提“防篡改”。如果记录决策的系统自己可以事后悄悄修改记录,那这份记录只是系统讲给自己听的故事,证据价值近乎零。
日志说“相信我,这是事实”;证据说“不用信我,这是证明”。这中间的差距,正是法案留下的窟窿。
要堵上这个窟窿,有一条成熟的路径:借鉴互联网证书透明度(RFC 6962)和透明日志的验证逻辑——记录只能追加,每条完整记录哈希后嵌入Merkle树,叶子节点绑定记录在日志中的位置,无法悄无声息地重新排序或改写。任何人只需比对一个小小公开的树根,就能验真任何单条记录,无需信任生成方。改一个字节,数学上就对不上,篡改会自动暴露。
开放决策标准(ODS)把这一机制用在决策记录上。一份真实的贷款拒绝记录被锚定、证明,然后被篡改,篡改立刻显形。记录中存有策略哈希、拒绝原因(DTI超限、薄档案、近期逾期)、动作结果,以及一个序列号。这样的记录才是可验真的决策证明,而不仅仅是另一条日志。
热门跟贴