API 数据膨胀如何毁掉你的 AI 代理（以及我如何在 Python 中将 Token 使用量削减 98%）

Source: Dev.to

50KB JSON 问题

当你的 AI 代理调用工具时——例如在数据库中搜索用户资料——API 往往会返回一个巨大的 JSON 负载（例如 40 KB），其中包含时间戳、嵌套元数据、跟踪 ID 和空字段。
代理实际上只需要其中极小的一部分数据（约 120 字节）来回答用户的问题，但大多数代理框架会把整个负载全部倾倒到活动上下文窗口中。

后果

• 成本： 每次工具调用都会消耗数万不必要的 token。
• 效率： 低价模型提供低价推理，但向它们喂入大量无关数据会提升成本并降低性能。

介绍：OpenClaw Context Saver

OpenClaw Context Saver 通过在数据到达 AI 之前消除数据膨胀，将 token 使用量降低 70 %–98 %。

工作原理

• 沙盒执行 (ctx_run) – 在隔离环境中执行工具调用。
• 意图驱动过滤 – 只提取与代理当前意图相关的信息。
• 会话连续性（魔法技巧） – 在后台存储完整原始数据，仅将简洁摘要放入上下文窗口。

实际影响

• 未使用 Context Saver：

  • 代理调用 API → 20 KB 原始 JSON 泛滥进入上下文。

• 使用 Context Saver：

  • 代理调用 ctx_run → 120 字节摘要进入上下文（完整数据仍在后台索引）。

开源

该项目已开源。获取代码，探索示例，并为仓库加星：

https://github.com/tlancas25/openclaw-context-saver

欢迎留下反馈、提交 issue 或请求新功能。