Anthropic 对外公布自研自动化红队测试系统 Anvil,这套基于 Claude 打造的 AI 红客工具,在信息安全测试场景里只发送 435 次请求就能找到推理信息泄露高危漏洞,对比人类安全专家需要约 10.22 万次请求,请求量刚好是人类的 1/235,同时覆盖生物安全、网络安全、信息安全三大方向自主做越狱、防护绕过测试,单组任务测试耗时压缩到 0.5–3.5 小时,过去人工红队往往要花费数周,Anvil 不只是简单批量发提示词,而是会自主迭代攻击策略、调整攻击思路,优先挖掘模型安全防护分类器的隐性缺陷,用来提前发现 Claude 大模型自身的越狱、推理泄露、安全旁路问题,方便研发团队快速修复加固防护机制,不过这套工具定位是防御侧的红队自检工具,Anthropic 也强调严格管控,不会开放给外部攻击者滥用,同时也带来新的安全争议,这种高效自动化攻击能力如果外泄,会降低 AI 越狱攻击门槛。
Anvil 与人类红队测试能力对比表
| 对比维度 | Anthropic Anvil AI 红队 | 人类专业红队测试人员 |
|---|---|---|
| 信息安全场景请求量 | 435 次 | 102200 次 |
| 请求比例 | 人类的 1/235 | 基准 100% |
| 单任务耗时 | 0.5–3.5 小时 | 数周级别 |
| 测试覆盖领域 | 生物安全、网络安全、信息安全 | 可覆盖同类领域,效率偏低 |
| 攻击方式 | 自主迭代策略、自动调整提示词 | 人工设计、手动试错、经验驱动 |
| 定位用途 | 模型安全自检、优化防护分类器 | 渗透测试、红队评估、漏洞挖掘 |
三大测试场景实测结果清单
- 生物安全:24 组测试组合里面,Anvil 在 23 组找到了等级更高的越狱方案,剩余 1 组和人类测试结果持平,用来检验模型对危险生物相关请求的拦截能力
- 网络安全:全部 24 组模型 + 任务组合都成功突破防护,验证安全监控、阻断策略的薄弱点
- 信息安全:主打检测隐藏推理内容泄露,也就是诱导模型输出本应保密的内部思考过程,也是本次 1/235 请求量数据的来源场景
Anvil 完整自动化红队测试流程
- 选定测试目标与评估指标,比如检测推理泄露、越狱绕过、危险指令放行
- Anvil 自主生成首轮攻击提示词,提交给目标模型,收集返回结果
- 自动判断本次攻击是否成功,分析失败原因,迭代调整攻击策略,生成新提示
- 循环迭代,直到成功触发漏洞,或者达到预设最大请求上限
- 记录攻击路径、Payload、漏洞现象,输出标准化漏洞报告,标记严重等级
- 研发团队拿到报告,针对性优化安全分类器,之后再用 Anvil 复测验证修复效果
优势与风险说明
优势方面,Anvil 大幅压低红队测试成本,能快速找出人类很难发现的低概率隐性漏洞,持续迭代 AI 安全防护,用来评估不同版本安全分类器的强弱,新版本防护越强,Anvil 需要的请求次数就越多。
风险同样突出,这种高效攻击方案一旦流出,攻击者可以低成本批量越狱各类大模型;Anvil 本身只能发现漏洞,不能自动修复漏洞;测试结果也存在误报,高危漏洞最终还是需要安全专家复核确认。
【相关 FAQ】
问题 1:Anthropic 这套 AI 红客系统 Anvil,为什么请求量只有人类的 1/235?
回答 1:Anthropic AI 红队系统 Anvil 在信息安全推理泄露测试场景,仅 435 次请求就挖到严重漏洞,人类专家需要 10.22 万次请求,换算后就是人类的 1/235,核心是它会自主迭代优化攻击策略,而不是盲目试错。
问题 2:Anthropic 的 AI 红客 Anvil,主要覆盖哪几类安全测试方向?
回答 2:Anthropic AI 红客 Anvil 支持三大方向测试,分别是生物安全、网络安全、信息安全,重点用来挖掘大模型安全防护机制的绕过、越狱、推理信息泄露漏洞。
问题 3:Anthropic 推出 AI 红客 Anvil,它的定位是给黑客做攻击工具吗?
回答 3:Anthropic 推出 AI 红客 Anvil 定位是内部防御自检工具,用来提前发现 Claude 模型安全缺陷、优化安全分类器,官方做严格管控,不会对外向攻击者开放。
问题 4:Anthropic AI 红客 Anvil,一次测试任务大概需要多久?
回答 4:Anthropic AI 红客 Anvil 在网络安全测试场景,单组任务完成测试耗时区间为 0.5–3.5 小时,对比传统人工红队数周的周期,效率提升非常明显。
问题 5:Anthropic AI 红客 Anvil 挖到漏洞之后,是不是可以直接自动修复?
回答 5:Anthropic AI 红客 Anvil 只负责自动发现、复现漏洞并且输出报告,不具备自动修复能力,漏洞修复、有效性复核依旧需要安全工程师来完成。
【参考资料】
[2026-11-13](Anthropic 新 AI 红客来了!只用人类 1/235 的请求量,就找到严重漏洞)智东西
[2026-11-13](Anthropic 发布 Anvil 自动化红队系统,高效挖掘模型安全漏洞)网易科技
[2026-11-13](Anthropic Anvil: Automated Red Teaming for Frontier Model Safety)Anthropic 官方博客
[2026-11-13](Anthropic Anvil 实测:部分场景攻击效率远超人类红队)量子位
[2026-10-27](Discovering and exploiting vulnerabilities in critical, real-world software with Claude)Anthropic 研究页
【免责声明】
本文内容仅为 Anthropic Anvil AI 红队系统公开研究资讯整理,不构成渗透测试、黑客攻击、安全采购、投资建议;Anvil 属于 Anthropic 内部安全研究工具,相关攻击能力严禁私自用于未授权系统测试;工具能力、测试指标、管控规则以 Anthropic 官方发布为准。
本文来自作者[暗晶信传]投稿,不代表环球科技潮立场,如若转载,请注明出处:https://www.zennew.com/rgzn/202611/1101.html
评论列表(4条)
我是环球科技潮的签约作者“暗晶信传”!
希望本篇文章《标题Anthropic 推出 AI 红队系统 Anvil,仅需人类 1/235 请求量即可挖到严重漏洞》能对你有所帮助!
本站[环球科技潮]内容主要涵盖:科技,科技新闻,黑科技
本文概览:Anthropic 对外公布自研自动化红队测试系统 Anvil,这套基于 Claude 打造的 AI 红客工具,在信息安全测试场景里只发送 435 次请求就能找到推理信息泄露高危漏洞,对比人类安全专家需要约 10.22 万次请求,请求量刚好是人类的 1 235,同时覆盖生物安全、网络安全、信息安全三大方向自主做越狱、防护绕过测试,单组任务测试耗时压缩到 0.5–3.5 小时,过去人工红队往往要花费数周,Anvil 不只是简单批量发提示词,而是会自主迭代攻击策略、调整攻击思路,优先挖掘模型安全防护分类器的隐性缺陷,用来提前发现 Claude 大模型自身的越狱、推理泄露、安全旁路问题,方便研发团队快速修复加固防护机制,不过这套工具定位是防御侧的红队自检工具,Anthropic 也强调严格管控,不会开放给外部攻击者滥用,同时也带来新的安全争议,这种高效自动化攻击能力如果外泄,会降低 AI 越狱攻击门槛。