商汤 SenseNova Loop-9B 刚发布,寒武纪就做到了 Day0 适配,直接在 MLU 平台上跑通这套新型循环计算架构的完整推理链路。简单来说就是模型发布当天,寒武纪的芯片生态就支持部署这个新架构模型,不用等后续版本迭代。之所以能快速完成适配,核心原因是寒武纪依托 vllm_mlu 框架,针对 Loop 循环层、mHC 流形约束超连接这些特殊结构做定制改造,复用已经成熟的算子能力,避开从零开发的高成本流程。整个适配工作分成三块核心步骤,先处理循环层的执行逻辑,再替换适配 MLU 硬件算子,最后优化 mHC 路由融合逻辑,整套流程落地之后,这个 9B 参数的循环模型就可以在寒武纪芯片上正常做复杂推理、代码生成、Agent 调用、多模态任务。这也意味着循环 Transformer 这类新架构不再只局限在 GPU 生态,国产 AI 芯片平台可以第一时间跟进前沿模型架构。
一、SenseNova Loop-9B 模型本身架构特点
- 基础参数:总参数量 9B,物理解码器一共 32 层,中间 24 层为共享权重循环模块,会循环执行两次,单次前向传播一共完成 56 次解码器层计算
- 核心机制:Loop 循环结构搭配 mHC 流形约束超连接,用参数复用的方式拉高有效计算深度,不用堆大量参数
- 能力上限:最高支持 512K 上下文,支持图文多模态输入,主打 Agent 智能体、代码、数据分析、复杂逻辑推理
- 部署门槛:4bit 量化权重约 4.9GB,优化后显存最低可以压到 10GB 以内,低显存硬件也有机会部署
二、寒武纪 Day0 适配三大核心工作
- Loop 循环层静态展开
- MLU 算子复用适配
- mHC 路由融合优化
把循环计算逻辑静态展开成顺序执行的层级,兼容 vLLM 原生调度、KV 缓存机制,循环层之间共享权重,保证调度器可以正常管理推理任务。
模型里的混合注意力、线性注意力、MLP 模块,直接复用 vllm_mlu 里成熟算子,对齐 Qwen3-Next 算子实现,同时覆盖多模态分支的计算逻辑。
把 mHC 双流残差信息融合、Sinkhorn 迭代逻辑封装成单内核,减少数据读写开销,保证循环支路信息传递稳定。
三、适配落地带来的价值清单
- 生态层面:国产 MLU 芯片跟上循环 Transformer 新架构,打破新模型优先在海外硬件适配的节奏
- 业务层面:商汤 Loop-9B 的 Agent、代码能力,可以直接跑在寒武纪算力卡上,适合私有化本地部署
- 技术层面:验证 vllm_mlu 框架对非常规循环架构模型的快速适配能力,后续同类 Loop 模型适配速度会更快
【相关 FAQ】
问题 1:寒武纪 Day0 适配商汤 SenseNova Loop-9B 是什么意思?
回答 1:Day0 适配就是商汤 SenseNova Loop-9B 模型正式发布的当天,寒武纪就完成适配、打通 MLU 平台推理链路,模型可以直接在寒武纪芯片上跑推理,不需要等待后续版本开发。
问题 2:商汤 SenseNova Loop-9B 循环计算架构和普通大模型架构差别在哪?
回答 2:商汤 SenseNova Loop-9B 循环计算架构依靠循环模块权重复用,少量物理层重复计算来提升有效深度;普通 Transformer 每层权重独立,想要提升能力只能增加参数量和层数,显存开销更大。
问题 3:寒武纪是靠什么框架完成 SenseNova Loop-9B 的 Day0 适配?
回答 3:寒武纪基于 vllm_mlu 框架完成 SenseNova Loop-9B 适配,通过静态展开循环层、复用成熟 MLU 算子、优化 mHC 路由三条路径完成链路打通。
问题 4:SenseNova Loop-9B 适合哪些场景,在寒武纪 MLU 上可以跑哪些任务?
回答 4:SenseNova Loop-9B 适合 Agent 智能体调用、代码编写、数据分析、长文本推理、图文多模态任务,完成寒武纪适配之后,这些任务都可以在 MLU 硬件上推理运行。
【参考资料】
[2026-11-18](寒武纪 Day 0 完成商汤 SenseNova Loop-9B 适配,打通新型循环计算架构推理链路)IT 之家
[2026-11-18](寒武纪完成商汤 SenseNova Loop-9B 适配)界面新闻
[2026-11-17](商汤发布 SenseNova Loop-9B 模型:部署显存需求低至 10 GB 内)IT 之家
【免责声明】
本文内容仅为行业资讯信息整理,不构成算力采购、模型部署、投资相关建议;模型性能、适配效果受硬件型号、量化方案、推理参数影响,实际效果请以官方实测数据为准。
本文来自作者[磁轨织码使]投稿,不代表环球科技潮立场,如若转载,请注明出处:https://www.zennew.com/kjyw/202611/2825.html
评论列表(4条)
我是环球科技潮的签约作者“磁轨织码使”!
希望本篇文章《寒武纪 Day0 适配商汤 SenseNova Loop-9B,打通循环计算架构推理链路》能对你有所帮助!
本站[环球科技潮]内容主要涵盖:科技,科技新闻,黑科技
本文概览:商汤 SenseNova Loop-9B 刚发布,寒武纪就做到了 Day0 适配,直接在 MLU 平台上跑通这套新型循环计算架构的完整推理链路。简单来说就是模型发布当天,寒武纪的芯片生态就支持部署这个新架构模型,不用等后续版本迭代。之所以能快速完成适配,核心原因是寒武纪依托 vllm_mlu 框架,针对 Loop 循环层、mHC 流形约束超连接这些特殊结构做定制改造,复用已经成熟的算子能力,避开从零开发的高成本流程。整个适配工作分成三块核心步骤,先处理循环层的执行逻辑,再替换适配 MLU 硬件算子,最后优化 mHC 路由融合逻辑,整套流程落地之后,这个 9B 参数的循环模型就可以在寒武纪芯片上正常做复杂推理、代码生成、Agent 调用、多模态任务。这也意味着循环 Transformer 这类新架构不再只局限在 GPU 生态,国产 AI 芯片平台可以第一时间跟进前沿模型架构。