大模型普遍受限于上下文窗口，长时间对话会丢失历史信息，很多智能代理无法维持跨多天的连续任务。billion-context 这个开源项目通过上下文压缩方案，用较小的上下文空间承载数十亿 token 的会话内容，解决长会话中断的痛点，给 AI 代理带来更持久的记忆能力。

打开网易新闻 查看精彩图片

简介

billion-context 是一款面向 AI agent 的上下文压缩插件，仓库地址为 https://github.com/ranxianglei/billion-context，项目采用 MIT 许可证。它基于 acp-kernel 压缩引擎构建，无运行时依赖，可以适配 pi、OpenCode、Claude Code 等多款主流智能代理工具。

项目核心能力是对历史对话做分层摘要压缩，最高可实现约5倍的 token 缩减。支持压缩块检索、解压恢复内容，同时可以保护最新工作内容和关键消息不被压缩。模型可以自主决定压缩时机与范围，保留文件路径、决策记录等关键信息，维持长周期任务的连续性。

使用

项目可以通过包管理器快速安装，适合嵌入各类 AI agent 流程。

打开网易新闻 查看精彩图片

加载插件后，AI 会自动调用 compress 工具，对指定区间消息生成高保真摘要。需要查询历史信息时，调用 search_context 在压缩块内检索内容，无需全部解压。当需要原始内容，执行 decompress 恢复完整文本。开发者可以配置保护区间，让近期交互消息不参与压缩，兼顾压缩效率与实时交互体验。

总结

billion-context 不依赖超大上下文模型，依靠压缩扩展会话容量，让普通窗口也能支撑长达数月的连续任务。它兼顾检索能力与信息保真，适配多种 AI 代理，降低超长上下文应用的部署成本，是长会话 AI 开发中实用的开源工具。