Headroom 拆解:AI Agent 的本地上下文压缩层,输入 token 最高省 57%
AI 编码代理的 token 消耗大头通常在输入侧:工具返回的搜索结果、日志转储、RAG 检索块、读进上下文的文件,加上越滚越长的会话历史,每一轮都在向模型重复发送数万 token。开源项目 Headroom(GitHub:headroomlabs-ai/headroom,Apache 2.0 协议)在 agent 与 LLM 之间加了一层本地压缩,官方给的…
AI 编码代理的 token 消耗大头通常在输入侧:工具返回的搜索结果、日志转储、RAG 检索块、读进上下文的文件,加上越滚越长的会话历史,每一轮都在向模型重复发送数万 token。开源项目 Headroom(GitHub:headroomlabs-ai/headroom,Apache 2.0 协议)在 agent 与 LLM 之间加了一层本地压缩,官方给的…
DeepSeek 把自家生产环境用的推理框架 DeepInfer 开源了,仓库 Apache 2.0 协议,同日放出配套的 Token 编解码组件 deepseek-recipe(MIT 协议)和一份 30 页的《DeepSeek V4.1 Flash 推理部署 Q&A》。官方在 Q&A 文档里给出了这套路由和生产集群的运转数据:单一集群服务吞吐 155 万…
2026 年 10 月 15 日,Mistral 发布了旗下第一个时序基础模型家族 Timestral。四个型号的参数量分别为 5M、28M、123M 和 209M,最大的 209M 版本在 GIFT-Eval、TIME、fev-bench 三个主流公开基准的预训练零样本(zero-shot)组全部排名第一,超过此前最好的模型,而参数量只有对方的三分之二。权…
10 月 13 日,斯坦福大学与 Together AI 的研究团队在 arXiv 上发布了论文《Hybrid Reasoning Agents》,代码以 MIT 协议开放在 GitHub(togethercomputer/HybridAgent),4B/8B/14B 三个规模的模型权重与训练数据同步挂上 Hugging Face。论文要解决的问题只有一个:…
10 月 17 日,DeepSeek 在官方 API 文档更新中开放了两个此前只供内部模型使用的网络工具接口:Search API 与 Fetch API。前者按查询返回结构化网页结果,后者把单个网页正文抓取为 Markdown。两个接口的单价均为每 1000 次成功请求 0.75 美元(国内版 5 元人民币),2026 年 11 月 1 日 00:00(北…
一个 2026 年 4 月才创建的 GitHub 仓库,现在每天还在以两千多 star 的速度增长。VoiceStudio 是一个完全本地运行的语音工作台:克隆声音、按文字描述设计声音、给视频配音、录音转文字、批量产出有声书,全部在自己机器上完成,不依赖任何云端 API。它 73,225 个 star 的背后,有一个常被忽略的技术事实:真正干活的引擎是 k2…
2026 年 10 月 16 日,Hacker News 首页出现一个让极客社区集体怀旧的项目:开发者 cobanov 发布的 PS5LM,在越狱后的 PS5 上原生运行 llama.cpp,把这台游戏主机变成客厅里的本地大模型服务器。项目上线一天拿下 290 分,仓库 10 月 1 日创建,Star 数已过 400。 ![PS5LM 主界面:Qwen3.8…
2026 年 10 月 15 日 UTC 01:07:51,一条悬赏认领记录出现在 Filippo Valsorda 三年前发起的 NIST 椭圆曲线种子悬赏页面上。认领人是一支 Anthropic 团队,他们没有按传闻中的思路去找那句「英文俏皮话」,而是让 Claude 从零推断这些种子是怎么生成的。答案揭开时,密码学界攒了近三十年的猜测集体作废:这些种子…
神经网络内部是打结的毛线团,还是摆放整齐的工具箱?这个问题在可解释性(interpretability)研究圈里争论了将近十年,结论决定了一整个研究方向的存在理由。2026 年 10 月 15 日,Goodfire 联合创始人 Nick Cammarata 发布长文 Neural Networks Are Already Clean,给出的答案是:网络内部本…