Headroom 拆解:AI Agent 的本地上下文压缩层,输入 token 最高省 57%
AI 编码代理的 token 消耗大头通常在输入侧:工具返回的搜索结果、日志转储、RAG 检索块、读进上下文的文件,加上越滚越长的会话历史,每一轮都在向模型重复发送数万 token。开源项目 Headroom(GitHub:headroomlabs-ai/headroom,Apache 2.0 协议)在 agent 与 LLM 之间加了一层本地压缩,官方给的…
AI 编码代理的 token 消耗大头通常在输入侧:工具返回的搜索结果、日志转储、RAG 检索块、读进上下文的文件,加上越滚越长的会话历史,每一轮都在向模型重复发送数万 token。开源项目 Headroom(GitHub:headroomlabs-ai/headroom,Apache 2.0 协议)在 agent 与 LLM 之间加了一层本地压缩,官方给的…
DeepSeek 把自家生产环境用的推理框架 DeepInfer 开源了,仓库 Apache 2.0 协议,同日放出配套的 Token 编解码组件 deepseek-recipe(MIT 协议)和一份 30 页的《DeepSeek V4.1 Flash 推理部署 Q&A》。官方在 Q&A 文档里给出了这套路由和生产集群的运转数据:单一集群服务吞吐 155 万…
2026 年 10 月 15 日,Mistral 发布了旗下第一个时序基础模型家族 Timestral。四个型号的参数量分别为 5M、28M、123M 和 209M,最大的 209M 版本在 GIFT-Eval、TIME、fev-bench 三个主流公开基准的预训练零样本(zero-shot)组全部排名第一,超过此前最好的模型,而参数量只有对方的三分之二。权…
一个 2026 年 4 月才创建的 GitHub 仓库,现在每天还在以两千多 star 的速度增长。VoiceStudio 是一个完全本地运行的语音工作台:克隆声音、按文字描述设计声音、给视频配音、录音转文字、批量产出有声书,全部在自己机器上完成,不依赖任何云端 API。它 73,225 个 star 的背后,有一个常被忽略的技术事实:真正干活的引擎是 k2…
2026 年 10 月 16 日,Hacker News 首页出现一个让极客社区集体怀旧的项目:开发者 cobanov 发布的 PS5LM,在越狱后的 PS5 上原生运行 llama.cpp,把这台游戏主机变成客厅里的本地大模型服务器。项目上线一天拿下 290 分,仓库 10 月 1 日创建,Star 数已过 400。 ![PS5LM 主界面:Qwen3.8…
Meta 于 10 月 15 日放出了 Muse Spark Open 的模型权重。这是 Meta Superintelligence Labs 的开源权重模型,总参数 816B,每个 token 激活 42B,原生多模态,支持 100 万 token 上下文。Meta 给它的定位是"迄今最强的美国开源权重模型",主打长程 agent 任务、复杂软件工程和多…
10 月 12 日,Liquid AI 在 Hugging Face 上开放了 LFM2.5-24B-A2B 的权重。这是 LFM2.5 家族目前最大的模型,官方博客同时确认它也是这个家族的收官之作:产品线覆盖从 230M 到 24B 两个数量级,端侧小模型的版图到此画完一个周期。总参数量 24B,每个 token 只激活 2B,官方给它的定位是「为快速、私…
2026 年 10 月 14 日,KDE 社区发布了 Plasma 6.8,版本副标题直接写明「30th Anniversary Edition」。这一天恰好是 KDE 项目成立三十周年:1996 年 10 月 14 日,Matthias Ettrich 发布了 KDE 项目的创始公告。三十周年、一个次版本号更新、一次平台迁移的收官,三件事被压进了同一个发布…
2026 年 5 月,Anthropic 的 monorepo 平均每天合并约 2,500 次代码变更;到 9 月,这个数字超过 30,000,其中 9 月 9 日单日合并 30,401 次。增长来自 Claude:agent 自主迭代研究循环、微优化程序、从零搭建服务,代码产出的速度先超过了构建和 CI,如今轮到了源码管理。Anthropic 的解法是在五…