算法,不只是技术问题。
撰文 | 麦哩
题图 | 网络
2026年7月11日,台风“巴威”正在过上海。当天下午,市内轮渡全线停航。
蜂鸟众包的骑手邵先生人在浦东金桥路,系统给他派了一单,去江对岸的杨浦取餐、送餐。
他过不去。取消订单,理由选的是“无法跨江跨河”。
平台罚了他6块钱,扣5分服务分。他在线申诉两次,都没过。平台的回复是:“这一单不存在跨江跨河。”
他打客服电话,从头到尾都是AI在应答,找不到一个真人。记者亮明身份之后四个小时,平台回应,经核实这单属于审核错误,判罚撤销。
6块钱不算大数目。但它把这个行业争了五年的问题,压进了一张订单里。
一个人过不了江,一个系统不知道他过不了江,一个申诉通道只会说“不存在”。这三件事同时发生,才叫算法黑箱。
在中国语境里,算法从来不是技术问题
2020年9月,一篇《外卖骑手,困在系统里》的文章刷屏。一位做过三年配送站站长的回忆,2016年3公里送餐时限是1小时,2017年变成45分钟,2018年又缩短到38分钟。
算法对时效的每一次优化,都是从骑手的路上抠出来的。这让算法几乎成了千夫所指。
求是网2026年8月的评论文章里说,算法黑箱表现为平台企业“以商业秘密或技术中立为由,对派单逻辑、定价规则与奖惩机制等核心算法的运行原理予以隐匿”。
所以在中国语境里,“算法黑箱”从一开始就是一个劳动关系问题,不是技术问题。它问的不是“你的模型怎么算的”,是“凭什么派我这一单、凭什么扣我这6块钱、我找谁说理”。
平台换了一个答案
“算法肯定是可控的,不可控它上不了线。”
2026年11月初,虎嗅一篇访谈里,抖音生态运营组刘霄(化名)说了句话。
刘霄算过一笔账。平台若有100亿条视频,每条用128维向量表示,用户每刷新一次,就要做约2.6万亿次浮点运算。所以行业只能先召回,50毫秒内把几千万条粗筛到几千条,再交给精排模型。这套系统由很多模型串并联组成,准召率不可能是百分之百。
这就是“不可控”的技术底子。它不全是平台在藏,是这套东西本身就算不完,也说不清。
中国信通院2026年2月发布的《面向产业的算法治理研究》指出,深度学习模型“往往包含数百万乃至数十亿参数,其决策路径由大量参数的非线性交互共同作用生成”,通过代码审查或结构解析“难以全面理解其决策逻辑”。而提升可解释性所需的技术与人力成本极高,治理实践中“成本与收益难以匹配”。
简单说,算法这东西确实看不懂,而且让它变得看得懂,还很贵。
但可控的部分,确实存在。
按刘霄的说法,一条视频要出去,先过安全审核,再进内容池,然后召回、粗排、精排、混排。分发算法和安全审核算法是两套系统,原话是“审核在分发之先”。
平台能改的,是给算法加什么目标、设什么门槛、留多少人工口子。
所以“可控”这两个字,控的从来不是模型内部的运算,是模型外部的规则。
它实际上回答的是“平台有没有能力管”,把问题从“模型”换成了“流程”。
把“可控”钉下来的,不是自述
2026年2月,市场监管总局发布《互联网平台反垄断合规指引》。第二十七条叫“算法筛查”。
条文本身是鼓励性的。鼓励平台用技术手段加人工复核,确保算法逻辑透明可解释,避免算法黑箱破坏市场竞争秩序;建立算法迭代纠偏机制,发现风险及时下线调整,留存完整审计记录。
总局在官方解读里明确,算法黑箱并不必然成为违法抗辩的正当理由。
过去平台可以说“这是算法算的”,这句话把这条路堵上了。
2026年7月3日,《互联网信息服务管理办法(修订草案征求意见稿)》再次公开征求意见。新增的“智能信息服务”一节里,第五十六条要求公示“技术的基本原理、目的意义、主要运行机制、训练数据来源”。
清华大学法学院教授刘晗在中国青年网报道里说,算法治理的核心是厘清责任边界,不能把责任推诿给算法,必须由人类主体承担。
算法不需要被看懂。但算法配套的规则可以公示,抽成的比例可以协商,判罚的申诉可以找到人,撤销的判罚可以留下记录。
但可控没有覆盖到最后一段
台风天那6块钱,最后撤了。但撤的原因是记者亮明了身份,不是系统发现了错误。
一个骑手的遭遇,样本为1,不能代表全行业。但它足够说明这条链路断在哪一段。
同一组报道里,有骑手说,超额取消罚10块扣10分,“申诉10个里面,有9个都不会过”。还有人说,AI已经判了违规,人工客服也不会给过。
区别在哪。区别在于,有没有一个能被找到的人。
中国劳动关系学院劳动关系系主任孟泉在评“等灯停表”时说,该试点适合梯度推广,更适配交通数字化完善的一、二线城市,中小城市由于数字化治理的基础较为薄弱,难以全盘复制。
这句话翻译过来,是可问责性的分布不均。一二线城市的骑手知道找工会、找媒体、找12345。换个城市,同一套系统、同一条规则,可能连一个能接电话的地方都没有。
一个系统能证明自己没有错,不算可控。一个负责解决问题的人能被找到,才算。
热门跟贴