过去两年里,我与监管机构、金融机构、工程师、高管和怀疑论者进行了数百次关于 AI 的对话。反复出现的问题是,人们对 AI 的困惑有多大。每个人谈论 AI 时,都好像它是一种朝单一方向发展的单一技术,但现实要微妙得多。
AI 是两种根本不同系统的融合:一种旨在预测,另一种旨在推理。理解这种区别并学会将两者结合起来的公司,将拥有显著优势,并胜过那些把 AI 当作单一整体工具的公司。
预测式 AI 与生成式 AI
多年来,预测式 AI 一直在幕后默默为决策提供支持。机器学习模型擅长在大量历史数据中发现模式。例如,在 信贷行业,机器学习模型分析海量历史数据,以识别人类分析师在数百万个结果中实际上无法检测到的模式。它们预测还款可能性、欺诈风险和投资组合波动性的精确度,远超几十年前构建的传统评分卡。
生成式 AI 做的事情则非常不同。它综合信息、应对模糊性,并用人类语言进行交流。它可以解释为什么某个趋势重要,总结复杂的发现,揭示战略权衡,并帮助人们与以前需要专业知识才能理解的系统进行交互。它的工作不仅仅是预测。它的工作是推理和转译。
理解这一区别最简单的方式是:机器学习是运行检测的诊断实验室,而生成式AI是帮助解读结果并决定下一步行动的医生。二者互不替代。它们相互补充,共同创造出强大得多的东西。
为任务选择合适的AI
这一区别很重要,因为许多组织目前正试图迫使生成式AI承担它从未被设计来执行的角色。大型语言模型能力惊人,但它们并不是确定性预测系统。让一个通用聊天机器人,在没有专门分析基础设施支撑的情况下,独立做出高风险的财务或运营决策,有点像让医生在没有实验室检查、扫描或生命体征数据的情况下诊断病人。缺乏可靠数据支撑的推理并不可靠。
与此同时,缺乏可解释性的预测系统会带来另一个问题。我观察到,组织能够生成越来越准确的输出,但能理解这些输出的人却越来越少。这种矛盾如今正在塑造各行业AI应用的下一阶段。
在医疗领域,预测模型能够比传统筛查方法更早发现患者风险升高的迹象。但临床医生仍然需要能解释检查发现、归纳治疗注意事项,并跟患者沟通清楚的系统。在自动驾驶汽车中,其中一层人工智能模块会持续实时识别车道、行人和障碍物,并判断距离。另一层则决定车辆该如何应对不断变化的行驶条件。
这种模式正在各个领域出现:预测型智能与推理型智能相互配合。
把预测、推理和人的判断结合起来
放贷是最典型的例子之一。打分本身必须确定、可复现,也就是说,同样的输入每次都得得出同样的分数、给出同样的解释,否则这个决定在监管机构或借款人面前就站不住脚。这正是机器学习的强项。但它给不了你一个办法,去弄清这些数字到底意味着什么。
生成式人工智能正在补上这一层能力:结合上下文解读结果,针对贷款组合做反事实推演,模拟政策变化会在审批环节引发怎样的连锁反应。它不负责给贷款打分,而是帮贷款机构看懂那些真正给贷款打分的系统所输出的结果。这种结合并不会消除人类判断。它让人类判断更有价值,让人少花时间做常规分析,多花时间处理特殊情况、做战略决策和把关监督。
成效最显著的组织并不是用人工智能系统取代人类。它们是在搭建这样的系统:让不同形式的智能相互补充——统计模型从海量数据中识别模式,生成式系统将复杂性转化为可用的洞见,由人来补充背景信息、做好监督并作出判断。
几十年来,先进的分析能力一直集中在全球最大的机构里,因为只有它们才承担得起处理海量信息所需的基础设施和专业能力。人工智能正在改变这一局面。受益最大的组织不会是那些追求完全自动化的组织,而是那些把预测、推理和人的判断整合进系统、让人更高效的组织。
Sean Kamkar 现任 Zest AI 首席技术官。
热门跟贴