亚马逊正在其整个业务中积极实施人工智能，以提高运营效率，提升客户满意度，扩大市场份额。不过人工智能作为不总是按预期运行并且容易产生幻觉的概率系统也存在风险。为了帮助最大限度地降低与人工智能相关的风险，亚马逊及其子公司AWS（亚马逊网络服务）正在转向一种经过时间考验但鲜为人知的技术，称为自动推理。
自动推理是计算机科学的一个领域，旨在为复杂系统的行为提供更大的确定性。从本质上讲，自动推理基于逻辑和数学为采用者提供了强有力的保证，使系统将完成其设计目的。
Neha Rungta是AWS的应用科学主任，她拥有杨百翰大学的计算机科学博士学位，在北加州的美国国家航空航天局艾姆斯研究中心工作期间使用了自动推理技术。
Rungta说：“这是使用数理逻辑来证明系统的正确性，并在架构代码中设计系统。”“传统上，这些技术用于航空航天等领域，在这些领域确保系统正确至关重要。”
自2016年以来，Rungta一直在利用她的专业知识帮助AWS提高其服务的安全性。她的AWS成就包括两个产品，IAM Access Analyzer和Amazon S3 Block Access。IAM Access Analyzer用于分析Amazon IAM（身份和访问管理）及其每秒20亿个请求。
Rungta在上周re:Invent 2024的一次采访说：“Amazon S3 Block Access由自动推理提供支持，如果客户打开它，可以保证他们的存储桶不会向公众授予无限制的访问权限，无论是现在还是未来的任何时候。”“即使AWS发生了变化——因为情况发生了变化，我们一直在推出新功能、新产品——这个存储桶也不会授予无限制的访问权限。”
在上周二的re:Invent上，AWS宣布它正在使用Amazon Bedrock的自动推理，该服务用于训练和运行基础模型，包括大型语言模型（LLM）和图像模型。该公司表示，这项名为“自动推理检查”的服务是“第一个也是唯一一个生成式人工智能（GenAI）保障，它有助于使用逻辑准确和可验证的推理来防止因幻觉而导致的事实错误。”
虽然神经网络，如GenAI核心的LLM，功能强大，提供了比传统机器学习技术更大的预测能力，但它们也往往不透明，这限制了它们在某些领域的有用性。通过在GenAI模型之上使用自动推理模型，客户可以更加确信该模型不会因神秘原因而行为不端。
Rungta说，这在很大程度上是一种基于规则的方法。
她说：“这些模式与你想到的LLM模式截然不同。”思考这些模型的方式是，它们是一组规则，一组关于系统真实性的声明性语句。假设是什么？给定一组特定的输入，你想确保它们保持不变的输出是什么？自动推理带来了一种基于规则的方法来确保概率人工智能系统的正确行为。
“有不同的技术来创建和分析这些模型，”她继续说道。“有些是基于证明形式定理。另一个是基于可满足性问题，所以最后本质上是布尔逻辑。还有一些是基于代码分析技术。所以它们与你对大型语言模型或基础模型的看法非常不同。”
如果自动推理可以为概率系统提供类似确定性行为的东西，那么为什么它们没有得到更广泛的应用呢？毕竟，对LLM做或说有毒或错误的事情的恐惧是当前GenAI热潮中最大的担忧之一，并阻碍了许多公司将GenAI应用程序投入生产。
Rungta说，原因是自动推理是有代价的。与其说是运行自动推理模型的计算成本，不如说是开发和测试它的成本。采用者不仅需要人工智能领域这一小分支的专业知识，还需要应用自动推理的领域的专业知识。这就是为什么到目前为止，它仅限于在最敏感的领域使用，在这些领域，得到错误的答案可能是灾难性的。
Rungta说：“有很多工作要做，你怎么知道你的规则对一个复杂的系统是正确的？”“这并不容易。你必须进行验证。你怎么知道你的规则是如何与环境相互作用的？你没有整个世界的规则。”
Rungta说，随着这些LLM中的一些变得更小，更好地适应特定领域，将自动推理技术应用于它们就越容易、成本越低。为此，AWS还宣布了其新的Amazon Bedrock模型蒸馏产品以及自动推理检查产品。这两种技术是相辅相成的。
随着GenAI时代的兴起，亚马逊正寻求成为领导者。亚马逊创始人杰夫·贝佐斯在本周的《纽约时报》会议上表示，该公司内部有1000多个人工智能项目。据《商业内幕》报道，他正在花更多的时间参与公司，以使其中一些人工智能项目接近完成。
当我们开始人工智能代理时代时，我们会看到不同的人工智能代理（AI Agent）有不同的工作。我们很可能会看到一些人工智能代理充当工人的代理监督者，这些领域可能会开发出自动推理能力。
AWS是使用人工智能自动推理的先驱。似乎没有任何其他公司正在使用这项技术来提高人工智能模型及其驱动的应用程序的可靠性。但Rungta乐观地认为，这项技术可以提供很多东西，最终将有助于释放人工智能的巨大潜力。
“我确实认为生成式人工智能将改变我们的生活方式，”她说。“模型们每周都在进步，如果不是每天的话。这是一个迷人的时刻。”
热门跟贴