Jeff:0.8B 决策模型跑在你的 Mac 上,一次前向 22 毫秒
9 月中旬 TypeSafe 发布 Jev 时,它带来的定价结构比模型本身更引人注意:输入每百万 token 0.042 美元,输出免费,因为 Jev 根本不生成文本。这个模型接受一段状态描述和几个问题,返回每个选项的概率分布,官方公布的单次响应在 70 到 500 毫秒之间。两周之后,一个名叫 Jeff 的独立项目把同样的能力搬到了本地:基于 Qwen3.…
9 月中旬 TypeSafe 发布 Jev 时,它带来的定价结构比模型本身更引人注意:输入每百万 token 0.042 美元,输出免费,因为 Jev 根本不生成文本。这个模型接受一段状态描述和几个问题,返回每个选项的概率分布,官方公布的单次响应在 70 到 500 毫秒之间。两周之后,一个名叫 Jeff 的独立项目把同样的能力搬到了本地:基于 Qwen3.…
家用游戏机的直播功能是一个单向通道:按下 Broadcast 按钮,画面被推给索尼指定的几个平台,其他去处一概不通。9 月 28 日,工程师 Yash Garg 发表的一篇文章把这条通道反了过来:让 PS5 把直播流推到一台 Mac 上,Twitch 全程不知情。整套方案只依赖两个brew 就能装上的开源组件,源码放在 GitHub 仓库 yash-garg…
一张 2026 年的手机能不能原样跑一部 x86 架构的 Windows PC 游戏?9 月末开源的 Madeira 项目给出了一个接近完成的答案:不依赖任何云游戏串流,所有计算都发生在手机本地。它把 Wine、FEX-Emu、DXMT 三个桌面平台的老牌兼容层搬到了 iOS 上,Thumper 和 ULTRAKILL 已经可以完整游玩,《漫威宇宙入侵》进入…
9 月 23 日,Fireworks Research 发布专精化模型 Ember-1:基于开源权重模型 Kimi K3 训练,官方数据显示答案质量与 K3 持平,token 消耗减少 40%。模型当天就在 Fireworks Serverless 上线,以 Research Preview 形式提供服务,与 K3 基座并列成为可选模型。 Ember-1 没…
Go 语言里有一行代码同时扮演两个角色:模块的身份证,和模块的下载地址。写下 import "github.com/uber-go/zap" 的时候,你声明了这个包是谁,也规定了构建工具去哪里把它拉下来。这两个角色极少分离,以致于多数开发者默认它们本该绑在一起——Go 官方的设计恰恰相反,它从一开始就准备了一套解耦机制,只是大多数人没用上。 9 月 27 日…
LocalStack 从今年 3 月下旬开始要求账号加令牌才能启动容器,本地跑 AWS 联调这件事多了登录环节。一个叫 fakecloud 的开源项目在这个背景下出现:Rust 编写的本地 AWS 模拟器,单二进制文件,不需要账号,不需要令牌,把 AWS SDK 指向 http://localhost:4566 就能用。本文基于 v0.46.0 在 macO…
Pyrowave 演示:左侧为传统编码链路,右侧为 Pyrowave 输出,左上角显示 200 Mbit/s 码率与 1.607 bpp 2026 年 9 月 21 日,Valve 在 Steam 客户端测试版中加入了一个实验性的视频编解码器,代号 Pyrowave。它出现在 Steam Remote Play(远程串流)的高级客户端设置里,覆盖 Windo…
同一个 70B 模型,BF16 精度需要约 140GB 显存才能放下,4-bit 量化后只要 40GB 左右,推理吞吐还能再往上走一截。代价是精度损失,而损失的多少几乎完全取决于量化工具链的质量。NVIDIA Model Optimizer(ModelOpt)是 NVIDIA 把自家的量化、剪枝、蒸馏、投机解码技术整合成的开源工具库,2025 年 1 月开源…
2014 年 3 月 24 日上线的安卓即时通讯应用 Conversations,在 Google Play 上收费了十二年半。2026 年 9 月下旬,开发者 Daniel Gultsch 在个人博客发表《Breaking Up with Google Play》,宣布结束与谷歌应用商店的合作关系:编译好的安装包转为主要通过 F-Droid 免费分发,Pl…