标签: 大模型

清除筛选

Jev与System One模型:TypeSafe砍掉文本生成后做出了什么

9月15日,一家名叫 TypeSafe 的 AI 公司发布了第一个公开模型 Jev。它的特别之处在于不生成任何文字:输入一段文本或一份数据,返回的是一个选项、一个分数或一个是/否判断,每个答案都附带可信度概率。发布当天,Jev 冲上 Hacker News 首位,讨论区涌入数百条评论;TypeSafe 同步宣布拿到 DCVC 领投的 4000 万美元种子轮。…

DeepSeek V4.1 Flash 技术解读:CED 架构、890 字节 KV Cache 与接棒 V4 Pro

9 月 10 日,DeepSeek 正式发布 V4.1 Flash。按官方公告的定位,这是全新模型结构系列中目前最小的型号,552B 参数的 MoE 模型,原生支持多模态视觉理解,上下文长度 1M token。真正让它成为话题的,是官方给出的一组对比结论:经内部和外部多方测试,V4.1 Flash 在性能、费用、速度、总用时等指标上全面超越自家的旗舰 V4…

Cognition SWE-2:开源基座上的RL后训练

Cognition 发布了新一代编码模型 SWE-2:FrontierCode 1.1 Main 得分 50.0%,距 Fable 5.1 的 50.9% 只差 0.9 个百分点,官方公布的单位任务成本便宜 64%。这次发布的技术细节比「又一个模型发布」多得多:Cognition 第一次把强化学习扩展到万亿参数规模的基座上,并公开了整套训练方法。本文拆解它的…

998 美元训练 3.8B 模型:little-lm 反超 GPT-2 的完整账本

1000 美元能买到什么级别的语言模型?Hugo Vergnes 用一份可复现的答案更新了这个问题的基准线:3.8B 参数的自研模型 little-lm,在 8 张租来的 B200 上训练 43 小时,花费 998 美元,CORE 评测得分 0.384。这个分数比 OpenAI 2019 年动用整个实验室资源训练的 GPT-2 1.5B(0.2565)高出超…

3 元成本 2.31 小时:minimind 把从零训练 LLM 压缩到一张 3090

训练一个大语言模型要花多少钱?行业里公开的数字通常以百万美元计。GitHub 上的开源项目 minimind 给出了另一个量级的答案:单卡 RTX 3090,预训练加微调合计约 2.31 小时,成本约 3.0 元人民币,就能从零训练出一个可以对话的 64M 参数语言模型。这个仓库目前拿下 55,894 star、7,301 fork,采用 Apache-2.…