2017年，白惠仁被西安交大老校长郑南宁院士拉进了一个全新的课堂——全国首个人工智能本科专业的“人工智能哲学伦理”必修课。那一年，大多数人还没听过“算法歧视”这个词。
如今，他已成为浙江大学哲学学院长聘副教授。在「九千光年和TA的朋友们」播客中，都市快报记者陈欣文与他展开了一场关于AI伦理与认知正义的深度对谈。
以下是本次对谈的精华实录。
认知正义与算法偏见
九千光年：您2017年就开始在人工智能本科专业讲伦理课，当时这门课就是必修吗？
白惠仁：对，当时给西安交大人工智能试验班的本科生开设“人工智能哲学与伦理”的必修课。郑南宁院士作为战略型的科学家，很早就意识到人工智能的发展不再是技术自身的问题，而且技术与人与社会的关系问题。所以在首批人工智能本科专业的培养方案设计中，他要求一定要加入哲学与伦理教育，并且找我来建设相关课程。这在十年前是非常难得的。
九千光年：所以您可能是国内第一个在本科讲AI伦理的人？
白惠仁：给本科班授课是最早的一批老师。我后来参与编写了郑南宁院士主编的《人工智能本科专业知识体系与课程设置》，把这门课专门作为一章指导性大纲。
九千光年：您提出了“认知正义”这个概念。它到底指什么？
白惠仁：认知正义不是我发明的概念。它的源头是英国哲学家 Miranda Fricker 2007 年那本书，她讲的是两类不正义：一类是你开口说话，但因为你的身份，别人不相信你；另一类是某个群体的经验根本没有现成的语言可以表达，所以说不出来。
我这两年做的事情，是想把这个概念从“人和人之间的交往”挪到“基础设施”上去。Fricker讲的是一个人说话时不被相信；我关心的是，有一些人压根没被记录，所以在系统里根本不存在。这是两种不同的排除。
拿疫情期间老人扫码这件事来说，它其实有三层含义。第一层是：他没有智能手机，或者不会操作，被挡在外面了，这是大家都看得见的数字鸿沟。第二层要往下走一步：正因为他长期不在数字系统里活动，他的行为、偏好、需求就没有被记录下来，他在数据上是被忽略的。第三层是后果：任何用这批底层数据训练出来的模型，在这些人身上的表现都会系统性地更差。
所以我说数据是一种公共资源，跟罗尔斯讲的社会基本善是可以类比的：权利、自由、机会、收入财富，还有自尊的社会基础。但罗尔斯那份清单里没有知识、信息和数据。在AI时代，这些东西已经成了最重要的分配对象之一，我们需要一个新的哲学概念来处理这些问题。
九千光年：数据缺了某些人，会带来什么后果？
白惠仁：最直接的就是偏见。比如你招聘的时候设“985本硕”，这是不是偏见？肯定是。但这种偏见是人类演化出来的，它是为了加快认知效率、决策效率。
我今天想说的不是这个层面的偏见，而是更底层的，知识生产的主体变了。过去几千年，人类形成了一个公共知识体系，每个人都在往里面贡献知识，经过集体认证之后纳入进去。科学是里面最典型的代表。
但现在呢？这个池子的知识生产主体不再是人了，是机器，或者人机合作。那问题来了：谁来认证这个知识能不能进入那个公共资源池？如果你是个人类中心主义者，你会觉得这个池子被“污染”了。
这就是今天很多人面对AI感到恐慌的深层原因。过去我们习惯了：知识是在实验室里被科学家生产出来的，发表Science文章，经成果转化，再一步步传到我这——可溯源，有完整的证据链。
现在你告诉我：第一，它不是一个人生产的；第二，它不可溯源。那个完整的链条没了。
让技术先走一段
九千光年：那AI能不能做决策？比如医疗领域，AI已经在辅助看片了，它能不能取代医生？
白惠仁：我专门找过一位给医院开发脑梗筛查系统的老师聊过。他的系统判读水平大致相当于一位有七八年临床经验的主治医师，并且可以快速迭代。但医生使用时有两个特点：第一，医生绝不会向患者说明“我的判断结合了AI系统”；第二，医生更信任基于临床诊疗指南训练的系统，而不是基于病历数据训练的。
他说得很清楚，医生对病历数据训练的模型不信任。现代医学对每个疾病都有临床诊疗指南，医生是基于那套知识体系来判断的，医生基于那个知识体系，觉得可解释、可溯源，反倒能接受。
所以回到你的问题：AI能不能做决策？我认为这归根到底不是一个技术问题，而是一个社会心理问题——你能不能接受给你签字的那个主治医是个AI？如果社会大众能接受，那就没问题。
九千光年：在AI治理上，中国应该走什么路？跟美国和欧盟有什么不同？
白惠仁：概括地说，欧盟主要是自上而下的治理模式，强调对技术的法律约束和对公民权利的保护，面对新技术总是先立法先立规，这种做法的缺点是规制周期长、容易导致创新滞后，而且它的风险分级框架背后隐含的是欧洲特定的自由主义权利观。美国则是自下而上的治理模式，强调让技术先运用起来，比如在自动驾驶的发展中美国就放权让州政府发了很多路测的牌照，让车先跑起来，出现问题再总结经验、形成判例。
我们中国基本上是两条腿走路，既注重技术的社会实验，也在逐步探索人工智能法律法规体系。而且，我们有自己独特的条件，我们有强有力的国家治理能力、庞大的市场规模，以及将技术发展与国家战略高度捆绑的制度安排。这意味着中国既有更强的能力去落实监管，也面临如何平衡“发展”与“规制”的持续张力。
我们的AI治理有两个具体的特点：第一是，能够在国家层面协调推动负责任AI的标准，不像美国那样受制于游说力量；第二是，能够在数据治理上探索不同于西方个人主义框架的路径，比如以公共数据资产为基础的治理模式。
九千光年：那您个人更倾向哪种？
白惠仁：我可能更倾向于让技术先走一段。但这种“走一段”不是什么都不做，而是要激发各方关注和讨论——企业、媒体、学术界、政府，大家都来讨论。因为对这种颠覆性技术，谁都预测不了它的未来趋势。在谁都预测不了的情况下怎么办？大家都来讨论。有共识最好，没共识也有多样性的观点。多样性本身对科技发展就是有好处的。
让问题被看见
九千光年：西方AI科学家很多都关心伦理问题，DeepMind甚至专门设了哲学家的岗位。我们中国的科学家有这个意识吗？
白惠仁：三年前，某大厂内部一个团队来找我们，说他们开发了一套数据伦理课程，想在浙大上。
我问他为什么推动这事，因为这跟企业主流业务没什么关系。他说了一段话我一直记着：“白老师，我的孩子现在上小学，已经被各种各样不良的数据信息污染了，思维体系很混乱。我不希望我的孩子以后生活在一个混乱的社会秩序里——特别是这个秩序是由我参与制造的。”
他说这话的时候，我挺震撼的。后来项目虽然没能推进，但他们至少有过这样的意识。
我给学生上课时也经常讲：你们知道人工智能这个学科最重要的思想源头是谁？图灵。图灵那篇提出图灵测试的经典文章，1950年发在哪？发在《Mind》上——这是一本哲学顶刊，到今天都是哲学界公认最顶尖的几本刊物之一。
历史上人工智能和哲学一直是缠在一起的。得过图灵奖又在哲学上留下东西的人不少。司马贺的有限理性，麦卡锡的常识推理和情境演算，Judea Pearl 的因果推断，这些名字在哲学教科书里都能找到。所以不是今天AI发达了才需要哲学介入，从根上就是连着的。
所以我相信，未来哲学系的学生进入AI行业会成为重要趋势。前两天我的朋友圈被刷屏——DeepMind设立了一个正式的“philosopher”岗位，招的第一个人就是剑桥大学的哲学教授。
九千光年：如果有一天AI取代人类决策，您最担心什么？
白惠仁：我担心的不是技术本身。我担心的是——那个公共知识池子被污染之后，我们再也回不去了。
过去几千年形成的知识认证机制，是经过无数人的集体讨论、验证、反驳才沉淀下来的。现在机器替代了人，认证机制没了，溯源链条断了。我们不知道这个知识是谁生产的、怎么生产的、为什么可信——这种不确定性，会影响一代人的认知结构。
当然，这不一定是坏事。也许过了这个阵痛期，人类会形成一套新的人机协同的知识认证机制。但在这个“过渡期”，我们需要更多人去讨论、去关注、去参与。
这可能是哲学家和媒体共同的使命——不是给出答案，而是让问题被看见。
如果想完整收听本次对谈，欢迎移步「小宇宙」App，关注「九千光年和TA的朋友们」，订阅「AI时代，哲学家在思考什么」系列专访。
欢迎前往小宇宙订阅✌️
为什么科技大厂开始招哲学毕业生？
当AI生图成电商“公敌”，他们出手了
王坚被一张握手的照片感动了
点喜欢
热门跟贴