我一个做电商的朋友,去年看中一套房,首付都凑好了,就差刷银行卡。结果刷卡那天,POS机显示“交易失败”。
他以为是机器坏了,换了一台。还是失败。
打电话给银行,客服说:系统判定您的账户存在异常交易风险,已临时冻结。
什么异常交易?
“对不起,具体风控规则属于商业秘密,无法告知。”
他急了,那是买房啊,定金合同签了,违约要赔20万。赶紧跑去柜台,填了一堆表,等了三天,解冻了。
但房子已经被别人买走了。
后来那房子的价格,涨了200万。
他气得差点高血压。打电话问律师,能告银行吗?律师说可以告,但你要证明银行“存在过错”。问题是,银行的风控AI是个黑箱,没人知道它怎么判定的。它说你有风险,你就是有风险。你说我没错,但你拿不出证据。
这就是算法黑箱最恶心的地方:它不需要证明你有罪,只需要怀疑你。而它的怀疑,你连反驳的权利都没有,因为你根本不知道它怀疑你什么。
这起案件最后和解了,银行赔了他五万块钱精神损失费,外加一个大客户VIP卡。至于那200万的房价涨幅亏损,银行说那是“间接损失”,不在赔偿范围内。
法律上确实是这样。《民法典》规定的违约赔偿,一般只赔直接损失,那种“如果我没错就能赚到的钱”,叫机会损失,法院基本不支持。
但你想过没有,如果银行不是因为算法误判,而是因为人工操作失误封了你的卡呢?人工失误导致的你错过买房,法院是可以酌情赔机会损失的。为什么算法失误就不行?
因为算法失误可以被解释为“系统正常运行下的合理误报”。翻译一下:我们设计的时候就知道它会误报,我们管这叫风控成本,你管这叫倒霉。
细思极恐。银行的成本,变成了你的代价。AI的误报率,变成了你的人生转折。
所以我的建议是:买房之前,先把卡里钱转到两个不同银行的账户。别把命押在一个黑箱上。
热门跟贴