Axion 1.0 是由字节跳动联合杜克大学、马里兰大学、布法罗大学推出的完全开源智能体(Agent)基础模型,2026 年 11 月 2 日登上 arXiv,核心结论是:训练一个能力较强的智能体并不需要堆砌越来越多的专门训练阶段,只用 "两轮轻量监督微调(SFT)+ 一轮强化学习(RL)" 的三阶段极简配方,配合高质量数据构造,就能在科学推理、工具调用、信息检索、编码和长程交互等基准上达到与领先开源模型、部分前沿商业模型可比的水平。整个流程没有专门的中期训练(mid-training)、DPO(直接偏好优化)或 OPD(在策略蒸馏);训练数据约 1.8 万条轨迹(18,363 条),122B 变体约耗 1000 GPU 小时;除模型权重外,数据构造、生成、过滤、验证、提示词和训练代码全部以 Apache 2.0 开放,方便复现和二次扩展。下面把它的训练配方、数据管线、架构与开源情况拆开说明。
一、项目基本信息
| 项目 | 内容 |
|---|---|
| 模型名称 | Axion 1.0 |
| 论文编号 | arXiv:2611.03233 |
| 发布时间 | 2026 年 11 月 2 日(11 月 3 日更新 v2) |
| 参与机构 | 字节跳动、杜克大学、马里兰大学、布法罗大学 |
| 模型定位 | 完全开源的 Agent 基础模型(agent foundation model) |
| 训练阶段 | 三阶段:Stage I SFT、Stage II SFT、强化学习 |
| 省略环节 | 无专门 mid-training、无 DPO、无 OPD |
| 训练轨迹 | 约 18,363 条 |
| 算力参考 | 122B 变体约 1,000 GPU 小时 |
| 开源协议 | Apache 2.0(配方、代码、数据、权重公开) |
| 公开变体 | 35B MoE 复现检查点:总参数约 35B,活跃参数约 3B,基于 Qwen3.6-35B-A3B |
二、极简训练配方:三阶段怎么做
Axion 1.0 的核心原则是:简化训练管线不等于简化学习问题,重点放在高质量、有挑战的训练数据上,而不是不断增加专门训练阶段。
| 阶段 | 名称 | 训练目标 | 用到的数据 / 工具 |
|---|---|---|---|
| Stage I | 自包含推理 SFT | 培养模型仅凭题目给出的信息解决难题的独立推理能力 | 自包含推理数据集,解题可用 Python,禁用搜索和网页访问 |
| Stage II | 工具依赖推理 SFT | 把推理能力扩展到需要外部工具获取信息、再结合证据推理的场景 | 工具依赖数据集,允许搜索、网页访问和 Python;构造期数据库对模型不可见 |
| Stage III | 强化学习(GRPO) | 强化长程推理,以及与外部工具、环境的持续交互 | 复用程序化构造的任务池,支持搜索、网页、学术检索、Python 工具;采用 verl 框架 |
监督微调的监督方式
- 每条训练样本包含问题、轨迹、参考答案和验证目标。
- 完整交互序列(含工具返回)被序列化,但只对助手生成的 token 计算损失:包括推理、工具调用和最终答案。
- 系统消息、用户消息和工具观测只作为上下文,不贡献损失;参考答案和验证目标用于校验轨迹,不进入模型输入。
强化学习奖励设计
- 正确最终答案:给全额奖励。
- 答错但有有效进展:按中间验证目标进度给部分分;未提交最终答案有相应惩罚。
- 中间目标按依赖链顺序校验,后一步得分以所有前置步骤通过为前提。
- 验证结合确定性检查与语言模型语义等价判断;数值容差由程序显式传入。
- RL 任务从程序化任务池中选取,剔除与评测集重叠或已知答案 / 格式有缺陷的题目;每题采样 4 条轨迹,至少一条答对且奖励方差非零才保留。
三、两阶段数据构造管线
数据构造把 "出题" 和 "轨迹收集" 分开:先确定题目和可验证的参考答案,再只保留答对且工具调用有效、终止完整、格式一致的轨迹。
1. 自包含推理任务(Stage I)
种子与初步加难
- 从公开课程材料、竞赛和推理数据集收集数理化生、计算机等问答对,作为种子而非直接训练素材。
- 生成模型先做组合变换(操作 A):以种子解题中得到的某个量为必要中间结果,构造新的自包含题目,答案明确可核验,且不暴露原题和原答案。
基于基座模型反馈的定向加难
- 用基座模型验证加难题(允许 Python 执行,禁用搜索 / 网页)。
- 答错的题直接进入候选题库;答对的题,把其成功解法交给生成模型,随机套用四种加难操作之一:
- A. 组合(Composition):再加一层依赖当前答案的推理步骤,形成新题目和新答案。
- B. 参数化(Parameterization):把固定值换成符号参数,要求给出通用表达式而非单个数值。
- C. 范围偏移(Range Shift):扩大或移动参数范围,使原枚举法或捷径不再奏效。
- D. 分情况讨论(Case Analysis):引入不同条件下答案不同的情形,要求模型识别并逐类解决。
2. 工具依赖推理任务(Stage II)
数据源:覆盖生物、化学、数学、地理、航空等结构化公开数据源,记录带可识别实体、属性和取值;少量数学 / 算法任务由确定性计算生成并经独立实现校验。
过滤 — 选择 — 计算 — 表述四步
- 过滤:对源记录施加明确条件,生成候选实体集合。
- 选择:按属性极值等准则唯一确定一个实体。
- 计算:取出该实体附加属性,用确定性公式计算派生量,含必要单位换算。
- 表述:用 LLM 把选择条件和计算要求写成自然语言题目,同时保留程序确定的参考答案。
工具依赖约束
- 构造期使用的数据库和存储答案在轨迹收集阶段不对模型开放;禁止直接访问构造期数据表,通用搜索、网页访问和 Python 可用。
- 额外做闭卷探测:不检索工具就能答对的题目会被剔除,确保训练聚焦信息获取和证据计算,而不是背诵答案。
轨迹过滤
- 用精确匹配或任务适用的数值容差对比最终答案;只保留工具调用有效、终止完整、格式一致的正确轨迹。
- 中间实体和取值作为可选验证目标保留,解题时不暴露。
四、模型变体与开源内容
| 类别 | 说明 |
|---|---|
| 122B 变体 | 论文报告的大参数变体,训练约耗 1,000 GPU 小时 |
| 35B 复现检查点 | Hugging Face 公开的 MoE 模型,总参数约 35B、活跃约 3B,BF16,基于 Qwen3.6-35B-A3B;卡片标注为 reproduction checkpoint |
| 开源产物 | 数据构造、生成、过滤、验证、提示词、训练代码、评估框架 |
| 数据开放 | Hugging Face 提供 SFT 划分和 RL 任务 |
| 许可证 | Apache 2.0 |
五、能力覆盖与评测方向
Axion 1.0 的评测覆盖多类智能体场景:
- 科学推理(数理化生等自包含难题)
- 工具使用(检索、网页、Python、学术信息获取)
- 信息寻求与证据整合
- 编码
- 长程智能体交互(多步轨迹推进)
论文结论是:在这套紧凑配方下,Axion 1.0 在广泛的智能体基准上表现强劲,与领先开源模型及部分前沿商业模型具有可比性;研究强调,可靠构造的数据、从推理到交互的清晰递进,以及在智能体轨迹上做强化学习,可以构成一条实用、可复现的开放智能体路径。
六、怎么理解 "训练很简单"
- 简单的是流程,不是数据:三阶段砍掉了 mid-training、DPO、OPD 等额外环节,但两道 SFT 数据管线对题目加难、可验证性、工具依赖和轨迹质量要求很高。
- 先推理、再交互:先让模型学会独立推理,再教它借助外部工具找信息,最后用 RL 打磨长程决策和环境交互,能力递进顺序清晰。
- 可复现优先:不只放出最终权重,而是把开发全过程公开,方便社区检查、复现和扩展,这对 Agent 模型尤其重要 —— 其能力同样依赖训练数据和交互设计。
- 适用边界:目前公开 35B 复现检查点属于社区复现版本,论文中的 122B 表现和完整部署细节以官方后续发布为准;基准成绩不代表所有真实业务场景的效果。
七、总结
Axion 1.0 由字节跳动联合高校团队推出,用 "两轮 SFT + 一轮 RL" 的三阶段极简配方和约 1.8 万条高质量轨迹,训出具备科学推理、工具调用、检索整合、编码和长程交互能力的开源 Agent 基础模型;它省略了中间训练、偏好优化和蒸馏等环节,把重心放在模型感知的数据构造和可验证任务设计上,并以 Apache 2.0 开放配方、代码、数据和检查点。这套方案说明,强智能体能力不一定来自不断堆叠训练阶段,清晰的能力递进和高质量数据构造同样关键;对想复现或研究 Agent 训练流程的团队,公开的完整管线是主要参考价值所在。
【相关 FAQ】
问题 1:Axion 1.0 是什么,是字节跳动单独推出的智能体模型吗?
回答 1:Axion 1.0 是一个完全开源的 Agent 基础模型,由字节跳动联合杜克大学、马里兰大学、布法罗大学的团队共同推出,论文编号 arXiv:2611.03233,2026 年 11 月 2 日发布;它不是单一公司产品,而是校企联合研究项目,定位是用极简训练配方训练可复现的智能体模型。
问题 2:为什么说训练 Axion 1.0 很简单,它到底用了哪些训练阶段、省略了什么?
回答 2:Axion 1.0 采用三阶段配方:Stage I 轻量 SFT 练自包含推理,Stage II 轻量 SFT 练工具依赖推理,Stage III 用 GRPO 强化学习强化长程推理和工具环境交互;流程中没有专门的 mid-training、DPO 直接偏好优化,也没有 OPD 在策略蒸馏。所谓简单是指训练管线精简,数据构造和题目验证环节仍然比较重。
问题 3:Axion 1.0 用了多少训练数据和算力,数据是怎么构造的?
回答 3:Axion 1.0 使用约 18,363 条训练轨迹,122B 变体约耗 1,000 GPU 小时;数据分两条管线,自包含推理题由种子题目经组合、参数化、范围偏移、分情况讨论加难,工具依赖题从结构化数据源按过滤、选择、计算、表述生成,并只保留答对且工具调用有效的轨迹。
问题 4:Axion 1.0 开源了哪些内容,权重和代码是什么协议?
回答 4:Axion 1.0 以 Apache 2.0 开放完整开发配方,包括数据构造、生成、过滤、验证、提示词、训练代码和评估框架;Hugging Face 提供 SFT 划分和 RL 任务,并公开 35B MoE 复现检查点(总参数约 35B、活跃约 3B);需要注意该 35B 卡片标注为复现检查点,不等同于完整官方权重。
问题 5:Axion 1.0 智能体具备哪些能力,评测表现处在什么水平?
回答 5:Axion 1.0 覆盖科学推理、工具使用、信息检索与证据整合、编码、长程智能体交互等能力;论文称其在广泛 Agent 基准上与领先开源模型及部分前沿商业模型可比。基准结果受数据集和评测条件限制,不能直接等同于真实业务场景的实际效果。
【参考资料】
[2026-11-08](Axion 1.0:1.8 万条数据训出研究型 Agent,字节跳动的 "极简配方" 能走多远)华为云社区
[2026-11-06](Axion-1.0 は試す価値があるか:レシピは全面公开、重みはまだ待つべき)AI 工具导航
[2026-11-05](Axion 1.0 — открытый открытый агент на 35B с тремя миллиардами активных параметров)Habr
[2026-11-04](Axion 1.0: How ByteDance Built a Fully Open Agent Foundation Model with Just 18K Training Examples)DEV Community
[2026-11-04](Axion 1.0-35B reproduction checkpoint released with MoE architecture, 35B total and 3B active parameters)AIsa Studio
[2026-11-04](ByteDance publica el código abierto de Axion 1.0, un agente de IA con capacidades frontera)ojeo.com
[2026-11-03](Axion 1.0: Open Agent Foundation Models, Simplified)arXiv
[2026-11-02](Axion 1.0: Open Agent Foundation Models, Simplified)arXiv:2611.03233
[2026-11-03](Axion 1.0: Open Agent Foundation Models, Simplified)Robotics Center Research
[2026-11-02](Axion 1.0 论文项目页与 PDF)axion1-0.github.io
[2026-11-02](Axion 1.0: How ByteDance Built a Fully Open Agent Foundation Model with Just 18K Training Examples)Python LibHunt
【免责声明】
- 本文内容基于 arXiv 论文、开源项目页面及公开媒体报道整理,模型仍处于研究发布阶段,训练配方、参数规模、基准结果和开源内容可能随版本迭代调整,以官方仓库和论文最新版本为准。
- 文中基准评测成绩来自论文实验设定,数据集、基座模型、评测工具和推理配置不同,结果不具备跨场景通用性;不代表 Axion 1.0 在实际业务中可达到同等表现。
- 35B 检查点被标注为 reproduction checkpoint(复现检查点),其架构、参数和适用范围请以 Hugging Face 模型卡片为准;122B 等变体的完整权重、部署细节和商用许可需核对对应 Apache 2.0 条款及官方说明。
- 论文中的数据构造、强化学习奖励和验证方法为研究方案,落地到企业智能体时需结合自身工具链、数据合规、权限控制和安全审计重新评估。
- 本文不构成模型选型、训练部署或投资建议;引用相关技术结论时,建议回溯原始论文和开源仓库核对细节。
本文来自作者[云枢调序师]投稿,不代表环球科技潮立场,如若转载,请注明出处:https://www.zennew.com/rgzn/202611/2417.html
评论列表(4条)
我是环球科技潮的签约作者“云枢调序师”!
希望本篇文章《训练强大智能体究竟有多简单?字节跳动等联合推出开源 Agent 基础模型 Axion 1.0》能对你有所帮助!
本站[环球科技潮]内容主要涵盖:科技,科技新闻,黑科技
本文概览:Axion 1.0 是由字节跳动联合杜克大学、马里兰大学、布法罗大学推出的完全开源智能体(Agent)基础模型,2026 年 11 月 2 日登上 arXiv,核心结论是:训练一个能力较强的智能体并不需要堆砌越来越多的专门训练阶段,只用 "两轮轻量监督微调(SFT)+ 一轮强化学习(RL) " 的三阶段极简配方,配合高质量数据构造,就能在科学推理、工具调用、信息检索、编码和长程交互等基准上达到与领先开源模型、部分前沿商业模型可比的水平。整个流程没有专门的中期训练(mid-training)、DPO(直接偏好优化)或 OPD(在策略蒸馏);训练数据约 1.8 万条轨迹(18,363 条),122B 变体约耗 1000 GPU 小时;除模型权重外,数据构造、生成、过滤、验证、提示词和训练代码全部以 Apache 2.0 开放,方便复现和二次扩展。下面把它的训练配方、数据管线、架构与开源情况拆开说明。