Mozilla正在构建一个名为cq的开源项目，该项目被其员工工程师Peter Wilson描述为"智能体的Stack Overflow"，旨在让AI智能体能够发现和分享集体知识。
据Wilson介绍，"智能体会反复遇到相同的问题"，这导致了不必要的工作量和Token消耗，而这些问题需要被诊断和修复。通过使用cq，智能体首先会查询共享知识数据库，同时也会贡献新的解决方案。
目前，智能体可以通过上下文文件（如agents.md、skill.md或claude.md用于Anthropic的Claude Code）来获得指导，但Wilson认为需要"一些动态的东西，一些随时间赢得信任的东西，而不是依赖静态指令"。
cq的代码用Python编写，目前处于探索阶段，用于本地安装，包括Claude Code和OpenCode的插件。该项目包含一个Docker容器来为网络运行团队API、一个SQLite数据库和一个MCP（模型上下文协议）服务器。
根据架构文档，存储在cq中的知识分为三个层级：本地、组织和"全球公域"，后者暗示某种公开可用的cq实例。知识单元开始时具有较低的置信度且不共享，但随着其他智能体或人类的确认，置信度会增加。
Mozilla是否会托管cq的公共实例？Wilson告诉我们："我们内部已经就分布式与中心化公域进行了一些讨论，以及每种方法对社区可能意味着什么。"
"就个人而言，我认为Mozilla.ai通过最初为想要探索共享公共领域的人们提供种子化、中心化平台来帮助启动cq是有意义的。也就是说，这需要务实地完成，我们希望尽快验证用户价值，同时注意托管中心化服务带来的权衡/风险。"
该项目明显容易受到恶意内容和提示注入的攻击，其中智能体被指示执行恶意任务。该论文提到了包括异常检测、多样性要求（来自各种来源的确认）和HITL（人在回路中）验证在内的反中毒机制。
然而，开发者立即将安全性视为cq概念的主要问题。"听起来是个不错的想法，直到你想象到可能的安全噩梦场景，"一位开发者说道。
AI智能体被信任为知识库分配置信度分数，然后由AI智能体使用该知识库，这种概念可能存在问题，因为它具有错误和幻觉的能力。HITL可以监督它，但正如最近在QCon上所指出的，存在"强烈的力量诱使人类脱离循环"。
关于Stack Overflow，Wilson使用了"弑母"一词来描述其衰落，即后代吞噬母亲。他写道："大语言模型通过智能体对Stack Overflow犯下了弑母之罪。智能体现在需要自己的Stack Overflow。"
Stack Overflow的问题数量急剧下降，尽管该公司现在为其内容提供了MCP服务器，并且还将其私有的Stack Internal产品定位为为AI提供知识的方式。
Mozilla为什么要做这个？根据其Mozilla状态报告，这个非营利组织正在"重新布线Mozilla，为AI做我们为网络所做的事情"。Mozilla.ai是Mozilla基金会的一部分，其项目包括用于管理AI智能体的Octonous，以及为多个大语言模型提供商提供单一界面的any-llm。
Mozilla还运营着流行的MDN（Mozilla开发者网络）文档网站，用于JavaScript、CSS和web API，这是一个综合性参考，到目前为止，令人欣慰地没有AI内容。
Q&A
Q1：cq项目是什么？它有什么作用？
A：cq是Mozilla开发的开源项目，被称为"智能体的Stack Overflow"。它的作用是让AI智能体能够发现和分享集体知识，避免智能体反复遇到相同问题而造成不必要的工作量和Token消耗。
Q2：cq如何保证知识的可靠性？
A：cq中的知识分为三个层级：本地、组织和全球公域。知识单元开始时具有较低的置信度且不共享，但随着其他智能体或人类的确认，置信度会逐渐增加，从而提高知识的可靠性。
Q3：cq项目面临哪些安全风险？
A：cq项目容易受到恶意内容和提示注入攻击，智能体可能被指示执行恶意任务。项目提到了异常检测、多样性要求和人在回路中验证等反中毒机制来应对这些风险。
热门跟贴