标签: Anthropic

清除筛选

Claude 曝出「身份混淆」缺陷:AI 代理误认自身推理为用户指令,触发安全风险

Claude 曝出"身份混淆"缺陷:AI 代理或因误认指令触发安全风险 Claude 身份混淆缺陷截图 Bug 描述 开发者 Gareth Dwyer 近日发文披露,Claude 在使用 Claude Code 等自动化工具时会出现"身份混淆"(who said what)错误——模型将自己的内部推理或往期输出误认为是用户的当前指令,并基于这些虚假授权执行高…

Anthropic Mythos 模型引发华尔街紧急会议:AI 网络安全威胁升级

财长与美联储主席紧急召集华尔街 CEO 美国财长贝森特与美联储主席鲍威尔本周二在华盛顿财政部总部紧急召集华尔街主要银行 CEO 开会,核心议题是 Anthropic 最新 AI 模型 Mythos 可能带来的网络安全威胁。 出席此次会议的银行 CEO 包括:花旗集团 Jane Fraser、摩根士丹利 Ted Pick、美国银行 Brian Moynihan…

Anthropic 签下史上最大算力承诺,收入四个月翻了三倍多

Anthropic 宣布与谷歌和博通签署新协议,获得多吉瓦级下一代 TPU 算力,预计自 2027 年起陆续上线。这是公司迄今最大规模的算力承诺,绝大部分新增算力将部署在美国。 这笔算力交易的背后,是 Anthropic 商业化速度的持续加快。 收入和客户的双倍速增长 几个关键数字的变化节奏值得关注: 年化收入从 2025 年底的约 90 亿美元,涨到目前超…

三家美国 AI 巨头罕见联手,共享情报应对'对抗性蒸馏'

三家美国 AI 巨头罕见联手,共享情报应对"对抗性蒸馏" OpenAI、Anthropic 和 Alphabet 旗下 Google 正在通过 Frontier Model Forum 共享关于"对抗性蒸馏"的情报,试图遏制中国竞争对手未经授权提取美国前沿模型输出、复制其能力。这是三家通常在产品层面激烈竞争的公司之间一次罕见的合作。 DeepSeek 对话机…