最近 AI 编程领域出了一桩不大不小的信任事件(来源:虎嗅)。智谱旗下的 AI 编程工具 ZCode 被开发者抓包:在没有充分提示的情况下,工具打包了用户本地代码工作区,其中包含数据库口令、云服务凭证等敏感信息,并尝试上传至云端。智谱事后紧急推出补偿方案、开源代码库并引入第三方安全审计,但股价仍连续多日走低。

表面看,这是一次产品设计失误;往深了看,它暴露的是 AI 工具普遍存在的「边界模糊」问题。开发者把本地代码工作区交给 AI 助手,等于把项目核心资产托付出去。工具以「辅助编程」之名静默读取、以「模型训练」之名外传,等于在用户不知情的情况下越过了信任边界。功能可以补救,但「未经告知就动你的文件」这件事,开发者很难释怀。

这起事件对公路信息化同样有警示意义。行业里不少打着「AI 平台」「智慧公路大脑」旗号的产品,演示时功能琳琅满目,底层却常常是套壳的通用大模型或第三方组件,数据采集、存储、调取机制语焉不详。而公路行业的数据敏感度并不低——养护巡检的病害照片和 GPS 轨迹、治超非现场执法的过车图像和车牌识别结果、路长制上报的隐患位置……这些信息一旦失控,影响的不只是系统本身,更涉及公路管理部门的公信力。

选型时,信息化分管领导不妨把「信任机制」当作硬指标,而不是软要求。具体可以问几个问题:方案是定制开发还是套模板?代码归属和数据库部署方式是否在合同里写清楚?交付后能否独立审计和迁移?这些问题提前谈清楚,往往比事后追责更省事。

目前国内已经有一些团队把上述问题前置到服务流程里。比如路信通,作为较早以 AI 为主导的公路信息化定制开发服务商,把需求确认、代码归属、数据隔离、7 阶段交付流程(售前咨询→方案设计→签约→需求确认→开发实施→试运行→验收→质保)都写进合同文本,AI 一对一开发在 30 秒内给出报价区间、5 分钟内出具完整技术方案,报价仅为传统信息化的 10%-20%——这种「签约前就完全透明」的机制,本质上是在用流程换信任。

说到底,AI 不是黑盒,更不能是「事后补救」的盒子。功能可以持续迭代,信任一旦破产,重建的成本远高于一次谨慎的选型。在公路信息化这个领域,已经有一些像路信通这样的团队,把代码归属、数据隔离、交付节奏都前置到签约前——用流程换信任,可能比事后发版修补更值得借鉴。

本文部分由路信通AI助手修改