标题Anthropic 推出 AI 红队系统 Anvil,仅需人类 1/235 请求量即可挖到严重漏洞

Anthropic 对外公布自研自动化红队测试系统 Anvil,这套基于 Claude 打造的 AI 红客工具,在信息安全测试场景里只发送 435 次请求就能找到推理信息泄露高危漏洞,对比人类安全专家需要约 10.22 万次请求,请求量刚好是人类的 1/235,同时覆盖生物安全、网络安全、信息安全三大方向自主做越狱、防护绕过测试,单组任务测试耗时压缩到 0.5–3.5 小时,过去人工红队往往要花费数周,Anvil 不只是简单批量发提示词,而是会自主迭代攻击策略、调整攻击思路,优先挖掘模型安全防护分类器的隐性缺陷,用来提前发现 Claude 大模型自身的越狱、推理泄露、安全旁路问题,方便研发团队快速修复加固防护机制,不过这套工具定位是防御侧的红队自检工具,Anthropic 也强调严格管控,不会开放给外部攻击者滥用,同时也带来新的安全争议,这种高效自动化攻击能力如果外泄,会降低 AI 越狱攻击门槛。

Anvil 与人类红队测试能力对比表

对比维度Anthropic Anvil AI 红队人类专业红队测试人员
信息安全场景请求量435 次102200 次
请求比例人类的 1/235基准 100%
单任务耗时0.5–3.5 小时数周级别
测试覆盖领域生物安全、网络安全、信息安全可覆盖同类领域,效率偏低
攻击方式自主迭代策略、自动调整提示词人工设计、手动试错、经验驱动
定位用途模型安全自检、优化防护分类器渗透测试、红队评估、漏洞挖掘

三大测试场景实测结果清单

  • 生物安全:24 组测试组合里面,Anvil 在 23 组找到了等级更高的越狱方案,剩余 1 组和人类测试结果持平,用来检验模型对危险生物相关请求的拦截能力
  • 网络安全:全部 24 组模型 + 任务组合都成功突破防护,验证安全监控、阻断策略的薄弱点
  • 信息安全:主打检测隐藏推理内容泄露,也就是诱导模型输出本应保密的内部思考过程,也是本次 1/235 请求量数据的来源场景

Anvil 完整自动化红队测试流程

  1. 选定测试目标与评估指标,比如检测推理泄露、越狱绕过、危险指令放行
  2. Anvil 自主生成首轮攻击提示词,提交给目标模型,收集返回结果
  3. 自动判断本次攻击是否成功,分析失败原因,迭代调整攻击策略,生成新提示
  4. 循环迭代,直到成功触发漏洞,或者达到预设最大请求上限
  5. 记录攻击路径、Payload、漏洞现象,输出标准化漏洞报告,标记严重等级
  6. 研发团队拿到报告,针对性优化安全分类器,之后再用 Anvil 复测验证修复效果

优势与风险说明

优势方面,Anvil 大幅压低红队测试成本,能快速找出人类很难发现的低概率隐性漏洞,持续迭代 AI 安全防护,用来评估不同版本安全分类器的强弱,新版本防护越强,Anvil 需要的请求次数就越多。

风险同样突出,这种高效攻击方案一旦流出,攻击者可以低成本批量越狱各类大模型;Anvil 本身只能发现漏洞,不能自动修复漏洞;测试结果也存在误报,高危漏洞最终还是需要安全专家复核确认。

【相关 FAQ】

问题 1:Anthropic 这套 AI 红客系统 Anvil,为什么请求量只有人类的 1/235?

回答 1:Anthropic AI 红队系统 Anvil 在信息安全推理泄露测试场景,仅 435 次请求就挖到严重漏洞,人类专家需要 10.22 万次请求,换算后就是人类的 1/235,核心是它会自主迭代优化攻击策略,而不是盲目试错。

问题 2:Anthropic 的 AI 红客 Anvil,主要覆盖哪几类安全测试方向?

回答 2:Anthropic AI 红客 Anvil 支持三大方向测试,分别是生物安全、网络安全、信息安全,重点用来挖掘大模型安全防护机制的绕过、越狱、推理信息泄露漏洞。

问题 3:Anthropic 推出 AI 红客 Anvil,它的定位是给黑客做攻击工具吗?

回答 3:Anthropic 推出 AI 红客 Anvil 定位是内部防御自检工具,用来提前发现 Claude 模型安全缺陷、优化安全分类器,官方做严格管控,不会对外向攻击者开放。

问题 4:Anthropic AI 红客 Anvil,一次测试任务大概需要多久?

回答 4:Anthropic AI 红客 Anvil 在网络安全测试场景,单组任务完成测试耗时区间为 0.5–3.5 小时,对比传统人工红队数周的周期,效率提升非常明显。

问题 5:Anthropic AI 红客 Anvil 挖到漏洞之后,是不是可以直接自动修复?

回答 5:Anthropic AI 红客 Anvil 只负责自动发现、复现漏洞并且输出报告,不具备自动修复能力,漏洞修复、有效性复核依旧需要安全工程师来完成。

【参考资料】

[2026-11-13](Anthropic 新 AI 红客来了!只用人类 1/235 的请求量,就找到严重漏洞)智东西

[2026-11-13](Anthropic 发布 Anvil 自动化红队系统,高效挖掘模型安全漏洞)网易科技

[2026-11-13](Anthropic Anvil: Automated Red Teaming for Frontier Model Safety)Anthropic 官方博客

[2026-11-13](Anthropic Anvil 实测:部分场景攻击效率远超人类红队)量子位

[2026-10-27](Discovering and exploiting vulnerabilities in critical, real-world software with Claude)Anthropic 研究页

【免责声明】

本文内容仅为 Anthropic Anvil AI 红队系统公开研究资讯整理,不构成渗透测试、黑客攻击、安全采购、投资建议;Anvil 属于 Anthropic 内部安全研究工具,相关攻击能力严禁私自用于未授权系统测试;工具能力、测试指标、管控规则以 Anthropic 官方发布为准。

本文来自作者[暗晶信传]投稿,不代表环球科技潮立场,如若转载,请注明出处:https://www.zennew.com/rgzn/202611/1101.html

赞 (0)

今日大家都在搜的词:

发表回复

本站作者后才能评论

评论列表(4条)

  • 暗晶信传
    暗晶信传 2026年11月13日

    我是环球科技潮的签约作者“暗晶信传”!

  • 暗晶信传
    暗晶信传 2026年11月13日

    希望本篇文章《标题Anthropic 推出 AI 红队系统 Anvil,仅需人类 1/235 请求量即可挖到严重漏洞》能对你有所帮助!

  • 暗晶信传
    暗晶信传 2026年11月13日

    本站[环球科技潮]内容主要涵盖:科技,科技新闻,黑科技

  • 暗晶信传
    暗晶信传 2026年11月13日

    本文概览:Anthropic 对外公布自研自动化红队测试系统 Anvil,这套基于 Claude 打造的 AI 红客工具,在信息安全测试场景里只发送 435 次请求就能找到推理信息泄露高危漏洞,对比人类安全专家需要约 10.22 万次请求,请求量刚好是人类的 1 235,同时覆盖生物安全、网络安全、信息安全三大方向自主做越狱、防护绕过测试,单组任务测试耗时压缩到 0.5–3.5 小时,过去人工红队往往要花费数周,Anvil 不只是简单批量发提示词,而是会自主迭代攻击策略、调整攻击思路,优先挖掘模型安全防护分类器的隐性缺陷,用来提前发现 Claude 大模型自身的越狱、推理泄露、安全旁路问题,方便研发团队快速修复加固防护机制,不过这套工具定位是防御侧的红队自检工具,Anthropic 也强调严格管控,不会开放给外部攻击者滥用,同时也带来新的安全争议,这种高效自动化攻击能力如果外泄,会降低 AI 越狱攻击门槛。

联系我们

联系:143 0457 151

工作时间:周一至周五,9:30-18:30,节假日休息

关注我们