@李斌 @蔚来 你们是不是搞笑呢?我闺女过生日,在 ES9 灯光秀场上,如果我女儿写爸爸我爱你,就直接提示违规,如果写妈妈我爱你,就没有问题,我不是写错了,我反复写了很多次都有这个问题,凭什么啊?!

打开网易新闻 查看精彩图片

这位车主本来准备给女儿一份特别的生日惊喜。 他看中 ES9 自带的灯光秀自定义投影功能,打算用车灯打出一行字,定格属于一家人的温馨时刻。 他反复调整手写的文字,每一次提交 “爸爸我爱你”,页面都会弹出违规提醒。 换成结构几乎一样的短句,审核通道直接放行,反差感让这位车主很难理解。

这套灯光秀的审核逻辑,藏着误判的源头

ES9 的自定义灯光投影,文字会经过 OCR 识别,再对接后台敏感词库校验。 车企开启这套审核,是因为车灯投影面向外部空间,需要规避不良内容向外传播。 手写文字的笔画没有统一标准,字形潦草一点,识别模型就容易混淆相近汉字。 这次事件里,算法把 “爱” 识别成字形相近的其他字,才触发后续的拦截规则。 并不是规则本身针对 “爸爸” 这个称呼,是识别出错叠加组合风控,造成了这次误伤。

官方回应之后,很多车主有不一样的感受

事件登上热搜之后,蔚来副总裁马麟对外说明情况,承认这套风控策略存在不合理之处。 技术团队在短时间内完成后台调整,现在再提交相同文字,已经可以正常使用灯光秀。 很多车主在评论区分享自己的使用经历,他们也遇到过风控系统误判日常短句的情况。 智能审核追求自动拦截风险内容,却很难读懂文字背后的情绪和场景。 亲情告白这类简单朴素的表达,本该是这个功能最有温度的使用场景。

智能风控,不能丢掉对普通人情感的包容

现在越来越多汽车配备自定义投影、车机弹幕这类向外展示内容的功能。 车企搭建风控体系,守住安全底线,是必须承担的责任。 纯依靠机器识别、词库匹配的模式,很难区分恶意内容和日常温情表达。 机器没有办法读懂一场生日、一次亲子告白里承载的心意。 后续的优化方向,需要给亲情祝福这类高频正向词汇设置白名单,降低误伤概率。 技术是服务人的工具,它的底线之外,也应该留出容纳普通人情感的空间。

这件事看着只是一场好笑的乌龙,它折射出智能时代风控系统普遍存在的短板。 机器算法还不具备共情能力,再完善的词库,也很难覆盖所有温暖的表达。 技术迭代的路上,除了收紧拦截规则,同样要学会分辨善意。

各位读者你们怎么看?欢迎在评论区讨论。