巴西市政府想上AI,先得把评估报告交上去。联邦审计法院(TCU)第76/2023号建议要求:接受联邦资金的市级机构,在部署人工智能之前必须完成伦理与财政影响的前置评估。这不是建议着玩的——它被用于对地方实体的AI使用进行监督。
换句话说,AI在市政场景里不是买来就能用,得先证明它不会越界。
三道约束同时压下来
约束来自三个方向,彼此咬合:
- 《财政责任法》(LRF,第101/2000号补充法)要求自动化方案不得打破经常性收支平衡,任何由AI生成的预算决策都要先经人工会计校验。
- 第14.133/2021号法律(招标法)自2023年4月1日生效,明确规范"自动化决策系统"(第125-A条),要求AI技术合同写入治理条款。
- TCU第76/2023号建议要求地方实体向内控机构提交技术论证报告。
报告要证明三件事:没有不当替代公务员的固有职能;与市政多年期计划兼容;算法歧视风险已被缓解。
合同里必须写什么
招标法对AI技术合同列了硬条款:对自动化决策保留人工复核权(第125-A条);禁止技术排他性条款;技术文档须可获取(依据管理与创新部第01/2022号规范性指令附件四)。这套要求同样适用于接入SICAF等集中化系统,或接入整合了市级的州级平台。
此外,TCU第92/2022号规范性指令要求:凡涉及直接财政影响的AI模型,都要在TCU的综合风险管理系统中登记。
小市镇也躲不掉
常见疑问是规模豁免。答案是没有。TCU第1.842/2023号全会裁决明确,建议适用于所有接受自愿转移资金或执行联邦资金资助工程的实体,不论规模大小。
大语言模型能不能绕开审批?只要它参与有财政影响的流程——比如招标方案分析、技术意见出具——就不行,须事先通报地方TCU(第76/2023号建议第2节)。
至于IBM Granite,它没有被作为特定工具单独监管,但在市政环境中的使用仍须符合TCU人工智能治理框架(2023)的指引,以及第14.133/2021号法律的追溯性、可解释性与人工控制要求(IBM Granite治理框架v2.1,2024)。
数字与现状
2022至2024年间,TCU共发布12项裁决,将AI故障与市级管理者的个人财政责任挂钩。同期TCU发布了3份关于AI的技术指南,可在其官网"技术管理"栏目查阅。
需要说明的是,目前没有任何联邦法规要求对AI模型做前置认证,但完整的技术文档与审计日志访问权限是硬性要求。
对市政技术团队来说,这意味着选型清单上多了一栏:这个模型能不能被审计、能不能被解释、能不能被人按停。
热门跟贴