随着海外算力通道持续收窄,新规已经限制国内企业远程调用境外高端 AI 算力,国内市场急需稳定、可自主掌控的本土推理产能,在 11 月 17 日清昴 AI 伙伴大会上,智源研究院的众智 FlagOS 和清昴智能联合推出端到端推理优化方案,正式上线基于国产芯片的商用 Token 工厂。这套方案依托众智 FlagOS 跨芯片统一软件栈能力,搭配清昴智能 MLGuider 推理引擎做算子和调度深度调优,能够混合纳管多款国产异构 AI 芯片,把零散的国产算力集群转化成标准化、按量计费的 Token 输出产能,不用针对每一款芯片单独改写模型代码,有效解决国产芯片适配难、单卡产出低、集群调度复杂这些痛点,承接原本依赖海外远程算力的大模型推理、Agent、知识库问答业务。
合作主体与核心能力清单
- 众智 FlagOS:智源开源异构 AI 系统软件栈,支持多厂商国产芯片,一次开发跨芯迁移,配套 FlagGems 高性能算子库
- 清昴智能:AI 基础设施服务商,自研 MLGuider 自动优化引擎,擅长算子自动化调优、混合算力集群调度
- Token 工厂定位:把国产 GPU/NPU 集群当成生产线,以 Token 作为标准化产品对外 MaaS 服务,按调用量计费
- 适配芯片:昇腾、沐曦、寒武纪、天数智芯、海光、摩尔线程等主流国产 AI 芯片
- 核心收益:提升国产卡有效 Token 产出、缩短模型迁移周期、统一接口、降低异构集群运维成本
众智 FlagOS 与清昴智能分工对照表
| 模块 | 负责方 | 具体作用 |
|---|---|---|
| 跨芯底层基座 | 众智 FlagOS | 编译器、统一算子层、多芯片抽象,抹平不同国产芯片接口差异 |
| 推理引擎与自动调优 | 清昴智能 MLGuider | 算子自动搜索、批调度、PD 分离、动态负载均衡,拉高单卡吞吐 |
| 集群运营、计量、SLA | 清昴智能 Token 工厂平台 | 流量管控、Token 计量、租户隔离、故障自愈、对外服务交付 |
| 模型生态适配 | 双方联合 | 主流大模型、Flash 版本、MoE 模型做 Day0 适配验证 |
Token 工厂关键技术亮点
- 异构算力混跑:不同品牌国产芯片可以放在同一个集群协同生产 Token,不用单独拆分集群
- 算子自动优化:MLGuider 可以自动生成、调优算子,原本几周的适配工作压缩到短时间内完成
- 推理调度策略:支持预填充和解耦分离(PD 分离),优化首 token 延迟、提升并发承载能力
- 开源底座降低锁定:FlagOS 开源,客户可以私有化部署,不绑定单一厂商芯片、不绑定闭源平台
适用业务场景清单
- 企业内部知识库 RAG、文档总结、批量内容生成
- AI Agent 服务、智能客服、代码辅助推理
- 面向开发者、SaaS 服务商的 MaaS 模型调用服务
- 政务、工业场景私有化大模型推理,数据不出境内集群
【相关 FAQ】
问题 1:海外算力通道收窄背景下,众智 FlagOS 搭配清昴智能的 Token 工厂,和普通国产算力集群差别在哪?
回答 1:普通国产集群大多单芯片同构部署,换芯片就要大规模改代码;众智 FlagOS 提供统一软件层,清昴做调度和算子调优,能直接异构混跑多款国芯,快速上线商用 Token 供给,适配效率更高。
问题 2:众智 FlagOS 是什么,在清昴智能 Token 工厂里面起到什么作用?
回答 2:众智 FlagOS 是开源统一 AI 软件栈,作用是屏蔽各类国产芯片底层差异,模型只需要适配一次,就能跑在不同国芯上,是这套 Token 工厂方案的跨芯基座。
问题 3:清昴智能 Token 工厂,是不是只能搭配众智 FlagOS 使用?
回答 3:不是,清昴 MLGuider 推理引擎可以独立部署;本次是联合方案,专门用 FlagOS 的跨芯能力来放大异构国芯集群的落地效率,打造标准化商用 Token 工厂。
问题 4:这套国芯 Token 工厂上线,是不是就能完全替代之前海外远程算力通道?
回答 4:短期是承接推理侧业务,训练端高端算力缺口还在;这套方案优先解决推理 Token 稳定供给、数据不出境、规避远程算力管制风险。
【参考资料】
[2026-11-18](海外算力通道收窄!众智 FlagOS × 清昴智能,助力国芯高性能上线商用 Token 工厂)猎云网
[2026-11-17](清昴 AI 伙伴大会:基于 FlagOS 的国产 Token 工厂正式发布)智源社区
[2026-11-17](清昴智能 MLGuider:算子自动优化,加速国产芯片推理落地)量子位
[2026-10-28](基于 FlagOS 搭建混合算力 Token 工厂的工程方案)电子发烧友网
【免责声明】
以上内容为大会公开资讯、产业技术资料整理,不构成算力采购、MaaS 服务采购、芯片投资建议;Token 工厂实际吞吐、延迟、成本受芯片型号、集群组网、模型类型影响,商用服务 SLA、定价以清昴智能官方商务资料为准。
本文来自作者[硅讯回响人]投稿,不代表环球科技潮立场,如若转载,请注明出处:https://www.zennew.com/kjyw/202611/2952.html
评论列表(4条)
我是环球科技潮的签约作者“硅讯回响人”!
希望本篇文章《海外远程算力通道收紧,众智 FlagOS 联合清昴智能落地国芯商用 Token 工厂》能对你有所帮助!
本站[环球科技潮]内容主要涵盖:科技,科技新闻,黑科技
本文概览:随着海外算力通道持续收窄,新规已经限制国内企业远程调用境外高端 AI 算力,国内市场急需稳定、可自主掌控的本土推理产能,在 11 月 17 日清昴 AI 伙伴大会上,智源研究院的众智 FlagOS 和清昴智能联合推出端到端推理优化方案,正式上线基于国产芯片的商用 Token 工厂。这套方案依托众智 FlagOS 跨芯片统一软件栈能力,搭配清昴智能 MLGuider 推理引擎做算子和调度深度调优,能够混合纳管多款国产异构 AI 芯片,把零散的国产算力集群转化成标准化、按量计费的 Token 输出产能,不用针对每一款芯片单独改写模型代码,有效解决国产芯片适配难、单卡产出低、集群调度复杂这些痛点,承接原本依赖海外远程算力的大模型推理、Agent、知识库问答业务。