标签: NVIDIA

清除筛选

NVIDIA Model Optimizer 拆解:NVFP4 量化的 Local-Hessian 算法与 AutoQuantize 混合精度搜索

同一个 70B 模型,BF16 精度需要约 140GB 显存才能放下,4-bit 量化后只要 40GB 左右,推理吞吐还能再往上走一截。代价是精度损失,而损失的多少几乎完全取决于量化工具链的质量。NVIDIA Model Optimizer(ModelOpt)是 NVIDIA 把自家的量化、剪枝、蒸馏、投机解码技术整合成的开源工具库,2025 年 1 月开源…

英伟达发布公开信力挺AI开放权重:黄仁勋第一条推文的五重信号

黄仁勋的第一条推文 2026年7月24日,英伟达CEO黄仁勋在X平台(原Twitter)发布了他的第一条推文。他没有做自我介绍,没有推广产品,而是分享了一份英伟达签署的公开信:《开放权重与美国AI领导力》(Open Weights and American AI Leadership)。 这条推文的配文只有几句话:AI将改变每个行业、赋能每家公司,并由各国共…

开源AINVIDIA

英伟达在中国重新上架RTX 3060 12GB显卡

RTX 3060 Series 在持续数月的全球显存短缺背景下,英伟达选择了一个出人意料的方式来应对:复活五年前的旧产品。 据 Board Channels 论坛消息和中国厂商七彩虹的官方商店信息,英伟达已在中国市场重新发售 GeForce RTX 3060 12GB 显卡。七彩虹已向部分门店分发首批货源,预计 6 月 5 日前开始交付。 售价和供应 七彩虹…

NVIDIAPC显卡

黄仁勋站台 Marvell:AI 的下一关是连接

黄仁勋站台 Marvell:AI 的下一关是连接 Computex 2026 开幕日,Marvell CEO Matt Murphy 正在台上阐述 AI 基础设施的下一个瓶颈。演讲进行到一半,NVIDIA CEO 黄仁勋走上台,对着现场观众说: "这是下一个兆元公司,女士们先生们。" 黄仁勋与 Marvell CEO Matt Murphy 在 Comput…