https://www.dafei.me/tags/python/ Recent content in Python on 大飞的博客 Hugo zh-cn Tue, 02 Jun 2026 10:00:00 +0000 https://www.dafei.me/posts/oss-01-headroom/ Tue, 02 Jun 2026 10:00:00 +0000 https://www.dafei.me/posts/oss-01-headroom/ <p>最近看到一个叫 <strong>Headroom</strong> 的项目，Netflix 高级工程师 Tejas Chopra 个人开源的，号称能帮你把发给 LLM 的 token 减少 30-70%，而且不丢信息。</p> <p>我把源码读了一遍，发现里面有几个设计很有意思，记下来。</p> <p>项目地址：https://github.com/chopratejas/headroom</p> <p>本文分析的主要源文件：</p> <ul> <li><a href="https://github.com/chopratejas/headroom/blob/main/headroom/transforms/content_router.py"><code>headroom/transforms/content_router.py</code></a> — 内容识别与路由</li> <li><a href="https://github.com/chopratejas/headroom/blob/main/headroom/transforms/content_detector.py"><code>headroom/transforms/content_detector.py</code></a> — 内容类型检测</li> <li><a href="https://github.com/chopratejas/headroom/tree/main/crates/headroom-core/src/transforms/smart_crusher"><code>crates/headroom-core/src/transforms/smart_crusher/</code></a> — SmartCrusher Rust 实现</li> <li><a href="https://github.com/chopratejas/headroom/blob/main/crates/headroom-core/src/transforms/log_compressor.rs"><code>crates/headroom-core/src/transforms/log_compressor.rs</code></a> — 日志压缩 Rust 实现</li> <li><a href="https://github.com/chopratejas/headroom/blob/main/headroom/transforms/cache_aligner.py"><code>headroom/transforms/cache_aligner.py</code></a> — CacheAligner</li> <li><a href="https://github.com/chopratejas/headroom/blob/main/headroom/ccr/tool_injection.py"><code>headroom/ccr/tool_injection.py</code></a> — CCR 工具注入</li> </ul> <hr> <h2 id="它解决的是什么问题">它解决的是什么问题</h2> <p>你在用 Claude 或 GPT 做 agent 的时候，工具调用（tool call）的返回结果会吃掉大量 token。</p> <p>比如你让 agent 查数据库，返回了 500 条记录，每条有 15 个字段。但其中 12 个字段在所有记录里都是完全相同的值，真正有用的只有 3 个字段。你把 500 × 15 的数据全塞给 LLM，它实际只需要 500 × 3。</p> <p>这就是浪费。Headroom 做的事，就是在你把数据发给 LLM 之前，先把这些废话压掉。</p>