数字治理 | 算法治理的公共价值重塑|操作化

算法治理的最终评判标准不在于技术是否先进，而在于它在多大程度上推动了社会正义的实现、改善了公共福祉，技术时代治理变革的价值锚点是我们在数字洪流中不迷失方向的根本依靠。当算法真正成为公共价值的守护者时，技术赋能治理的承诺才算真正实现。

原文：《算法治理的公共价值重塑》

作者 |湖南工程学院马克思主义学院副教授钟立华

图片 |网络

当前算法技术已经嵌入到政务服务、城市管理、社会保障等公共治理领域，传统技术工具论把算法看做价值中立的效率提高方法。但是随着治理实践的不断丰富，算法已经不再仅是公共价值的技术化执行载体，而是实质性地参与到了公共价值的定义过程以及排序机制当中。当算法系统承担公共资源配置、服务对象识别、风险预警评估等职能的时候，它的运算逻辑本质上就是在做连续的价值判断和政治选择。这就说明了算法正在从技术性的背景变作制度性结构，这需要用技术哲学与政治学结合的视角来重新思考数字时代治理关系的本质发生了怎样的变化。

从抽象理念到技术秩序建构

算法的治理实践是以可计算性为认识论基础的。为了解决复杂的公共事务，算法必须把公平、正义、效率等规范性的理念转化成具体的数学模型、计算指标和优化函数。保障房分配算法把居住权诉求转化成收入、资产等有限维度的加权评分；交通调度系统把出行公平性诉求量化成不同区域候车时间方差最小化等。这样的操作化转换不是简单技术上的转换，而是深刻的价值建构过程。

算法在操作化过程中用三个机制来实现价值重塑，选择机制决定哪些价值维度被纳入计算框架，权重机制确定不同的价值诉求的相对重要性，折衷机制处理价值冲突时给出技术化的解决办法。这些机制一起构成算法的价值语法，把多元复杂的公共价值整合进单一的技术执行框架里。算法的自主学习能力使得价值语法具有动态演化的特性，可以依据历史数据中的隐含偏见来再生产或者放大已有的社会不平等，也可以在追求效率目标的过程中系统性地忽略难以量化的公共利益维度。

技术化的价值建构有双重的效应：第一，把价值讨论从政治领域转移到技术领域，用技术合理性来代替价值合理性；第二，在公共资源配置中形成一种隐性的价值排序，该排序没有公共辩论的合法性基础，但是会通过算法的日常运行而获得事实上的规范效力。因此算法就成为了福柯意义上的微观权力装置，在价值中立的技术操作中悄然改变着公共生活的价值秩序。

算法责任被系统性消解

随着算法在公共决策中所起的作用越来越大，传统的治理责任伦理就陷入了结构上的危机之中。算法系统技术复杂性造成责任主体的多重模糊，当算法决策产生负面社会后果的时候，责任应当在技术开发者、算法使用者、数据提供者之间怎样划分？深度学习算法的不可解释性使这一困境更严重，决策过程很难还原成可以理解的逻辑链条，成了名副其实的责任黑箱。

技术开发者把算法自主性当作规避价值判断责任的借口，政府部门把技术专业性当作推卸决策审查责任的理由，监管机构把技术快速迭代当作延迟标准制定责任的借口。责任被技术复杂性所遮掩而被系统性地消解，然而，算法却在不断地行使着实质性的公共权力。算法所引发的认识论权力转移问题更为严重，即掌握了算法技术和数据资源的行动者获得了定义社会现实、预测社会趋势、评估政策效果的知识特权，这样的特权有可能转变为对公共议程设置的结构性权力。当技术系统运行逻辑与社会公平的价值诉求发生矛盾的时候，怎样保证价值理性对工具理性的优先性？怎样创建新的平衡机制来塑造技术优势并施行权力制衡？这就成为数字时代治理秩序必须回答的核心问题。

制度与技术双重构建算法治理新框架

算法治理的价值与责任双重难题，必须创建起价值自觉的治理架构，在制度设计、技术架构和社会参与这三个方面展开系统的革新。

制度上要创建算法治理的元规则体系，探寻建立分级分类的算法影响评价制度，对高风险公共算法实施事前价值审查，完善算法问责的法律架构，明晰各主体的责任界限和归责准则，规划契合算法特性程序保障，保证受算法决策影响的个体享有知情权、异议权并获得人工复审的权利。应该建立算法决策的价值回溯机制，在算法决策的结果与公共价值出现较大差异的时候，对价值设定上出现的错误进行追溯并修正。

技术层面要推行价值敏感设计范式，把价值考量嵌入算法开发的全生命周期，在算法开发的全生命周期里主动嵌入价值考量，借助可解释人工智能技术加强算法透明度，经由对抗性测试找出算法里的歧视性模式，依靠多方价值权衡机制应对价值冲突状况。技术设计不能追求价值无涉的纯粹理性，应该致力于建立价值可见、可调、可溯的技术系统。

社会层面需要培育技术民主的公共领域，算法治理不应仅限于专家和官员的封闭决策，而应该向更广泛的社会协商开放，建设算法治理的多元化参与平台，使受算法影响的人可以加入到算法规则的讨论和设计当中去。发展公众算法素养教育，提高社会对于技术治理的理性批判能力，推动跨学科知识生产，打破技术话语和人文价值之间的沟通壁垒。当算法治理得到充分的民主审议和价值辩论之后，技术发展才能真正服务于公共善的增进。

在技术理性与价值理性之间张力平衡

算法与治理的深度融合正在改变公共生活的规则体系，这面临着技术怎样重塑权力结构、价值怎样嵌入技术系统的根本性问题。未来的算法治理要维持三个方面的张力平衡，在认识论上要平衡数据驱动和价值引导的关系，不能让计算理性完全取代实践智慧；在权力上要平衡技术效率和民主问责的关系，不能让技术优势变成权力垄断；在价值上要平衡工具理性与价值理性之间的关系，不能让操作化的需求消解规范性的追求。

这条平衡之路没有现成的模板，需要在理论反思与实践探索相互促进的过程中逐步形成。算法治理的最终评判标准不在于技术是否先进，而在于它在多大程度上推动了社会正义的实现、改善了公共福祉，技术时代治理变革的价值锚点是我们在数字洪流中不迷失方向的根本依靠。当算法真正成为公共价值的守护者时，技术赋能治理的承诺才算真正实现。

文章为社会科学报“思想工坊”融媒体原创出品，原载于社会科学报第1993期第3版，未经允许禁止转载，文中内容仅代表作者观点，不代表本报立场。

本期责编：程鑫云