英伟达 AMD 罕见同台九大创始成员联手成立 SGLang 联盟,共推开源 AI 推理

先说结论:2026 年 11 月 12 日,非营利组织 LMSYS Org 在旧金山首届 SGLang Summit 开幕 keynote 上宣布成立 SGLang Consortium(SGLang 联盟),九大创始成员分别是 NVIDIA、AMD、Intel、Google、Meta、Thinking Machines Lab、Cloudflare、Modal 和 RadixArk。其中 NVIDIA、AMD、Intel 本是 AI 加速芯片市场的直接竞争对手,如今坐到同一张桌前,共同围绕开源推理引擎 SGLang 参与路线图讨论、工程协作、生产反馈、测试资源投入和联合开发;联盟聚焦前沿模型支持、推理与多模态负载、分布式推理和硬件优化四个方向。需要注意一条治理红线:联盟成员负责建言和共建,SGLang 维护者仍掌握技术决策权和代码合并权限,项目继续向整个开源社区开放,不是被几家公司接管的封闭分支。同期峰会上还公布了 SGLang v1.0 规划、Miles v0.2 发布、SGLang 接入 NVIDIA NIM 认证微服务,以及 Intel 平台优化和 AWS Trainium 预览;官方口径显示 SGLang 已被 332 家机构采用,Meta 迁移后 GPU 资源节省超过 2 倍。

一、事件基本信息

项目内容
联盟名称SGLang Consortium(SGLang 联盟)
发起方LMSYS Org(开源 AI 推理引擎 SGLang 的非营利组织)
宣布时间2026 年 11 月 12 日
宣布场合首届 SGLang Summit,旧金山 Fort Mason,11 月 12—13 日,到场 2000+ 开发者、研究者和行业人士
创始成员NVIDIA、AMD、Intel、Google、Meta、Thinking Machines Lab、Cloudflare、Modal、RadixArk
协作方向前沿模型支持、推理与多模态负载、分布式推理、硬件优化
治理方式各成员指派技术代表,每年两次路线图会议,工作组在会间推进;维护者保留技术决策与代码合并权

补充说明:11 月 12 日首发公告列出 8 家创始成员,11 月 16 日更新后补入 Thinking Machines Lab,最终形成九大创始成员名单。

二、九大创始成员按产业链分层

分层成员主要角色
AI 加速芯片 / 加速器NVIDIAGPU、AI 加速器与 CUDA 软件平台
AI 加速芯片 / 加速器AMDInstinct 加速器与 ROCm 软件平台
AI 加速芯片 / 加速器Intel数据中心 CPU、GPU、加速器及配套软件
模型与自研芯片GoogleAI 模型、云基础设施、TPU 加速器
模型与自研芯片Meta前沿模型开发、大规模推理基础设施,自有 MTIA
模型实验室Thinking Machines Lab前沿模型研发与推理落地
云与边缘基础设施Cloudflare分布式云、边缘基础设施
AI 应用云平台Modal运行 AI 应用的云平台
推理软件 / 维护方RadixArkSGLang 核心维护者所在公司,由 SGLang 原始论文作者创立

三、联盟具体做什么

1. 四个技术聚焦方向

  1. 前沿模型支持:让最新发布的大模型、混合架构模型能在 SGLang 上快速适配上线。
  2. 推理与多模态负载:覆盖长上下文推理、图文音视频等多模态任务,以及长时运行 Agent 的历史状态管理。
  3. 分布式推理:跨多块加速器、多节点调度算力,提升集群级吞吐和稳定性。
  4. 硬件优化:在 NVIDIA GPU、AMD Instinct、Intel 平台、Google TPU、Trainium 等不同硬件上做内核和调度优化。

2. 协作机制清单

  • 每家创始成员指派一名技术代表;
  • 每年参加两次路线图会议,对齐工程优先级;
  • 会间通过工作组推进具体技术任务;
  • 投入形式包括工程经验、生产部署反馈、测试资源、联合开发;
  • 路线图方向和进展会有公开更新;
  • 成员之间是协同关系,成立初期没有绑定的具体开发任务分配。

四、竞争对手为什么愿意同坐一张桌

  • 推理成本已成主要矛盾:模型训练之后,真正决定产品单位成本的是日常推理;数据中心建设受限的背景下,用软件手段榨取硬件效率被视为关键路径。
  • 中立开源软件层对各家都有利:统一的推理引擎能降低跨硬件迁移成本,芯片厂商也希望自己的平台在这套开源栈上拿到更好的表现和兼容性。
  • 大规模生产反馈是稀缺资源:头部云厂商、模型公司和硬件厂商掌握真实流量、多硬件集群和故障案例,把这些经验回流到框架,比单家闭门优化更快。
  • 避免被单一私有栈绑定:对云厂商和模型公司而言,开源、可自托管、可扩展的推理栈能保持议价权和部署自由度。

五、峰会同期公布的其他进展

进展要点
SGLang v1.0以生产稳定性和兼容性为核心,强化现有功能、清晰暴露配置问题、统一兼容性预期;推进统一内存管理和分层缓存,应对混合架构与长时 Agent 历史超出显存的问题
Miles v0.2强化学习后训练框架,支持 NVIDIA GPU、AMD GPU、Google TPU,AWS Trainium 即将支持;兼容 Megatron-LM、FSDP、TorchTitan;覆盖图像、视频、音频及扩散模型,支持 Multi-LoRA
接入 NVIDIA NIMSGLang 驱动 NVIDIA NIM 认证微服务,提供经验证的容器、模型与 GPU 优化配置及持续安全维护
Intel 合作Intel 与 RadixArk 合作,把 SGLang 优化贡献回开源框架,覆盖 CPU、GPU 和加速器
AWS Trainium 预览SGLang-Neuron v0.1.0 开源公开预览,由 RadixArk 的 SGLang 团队与 Amazon Annapurna Labs 联合开发
采用规模官方称 SGLang 已被 332 家机构采用;Meta 生产环境覆盖 NVIDIA GPU、AMD GPU、Google TPU、Meta MTIA,迁移后 GPU 资源节省超过 2 倍

六、联盟的治理边界(容易误读的几点)

  • 不是公司联合体:联盟是路线图与工程协作论坛,不成立独立商业实体,也不替代现有开源治理。
  • 成员不掌握代码控制权:技术决策和代码合并仍由 SGLang 维护者负责,成员不能自动把代码或特殊偏好合入主干。
  • 继续对外开放:项目保持开源,社区开发者和非成员机构仍可贡献 issue、PR 和插件。
  • 成立时未发布专属产品:联盟成立本身没有同步推出新版本或特定性能指标,目前给出的是长期协作框架。
  • 性能数据来自各自场景:例如 Meta 的 2 倍 GPU 节省、单用户约 1800 token/s 等数字来自特定部署和基准,跨环境不可直接套用。

七、对开发者和企业的实际意义

  1. 多硬件选型更稳:如果团队同时面对 NVIDIA、AMD、Intel、TPU 等不同算力,SGLang 作为中立推理层减少跨平台适配负担。
  2. 跟进路线图有公开窗口:联盟路线图会议和公开更新可作为判断框架稳定性、硬件支持节奏的参考。
  3. 生产落地可参考头部实践:Meta、Cloudflare、Modal 等大规模部署经验会通过社区会议和公开资料回流。
  4. 自建推理栈需要评估维护成本:是否采用 SGLang 仍要结合自身模型、硬件、延迟要求和团队运维能力,联盟背书不等于默认适配所有场景。

八、小结

SGLang 联盟的看点不在于又组了一个行业组织,而在于芯片、模型、云厂商这些原本竞争激烈的角色,把协作点落到了开源推理软件这一层:用统一框架改善跨硬件效率、降低推理成本,同时把代码控制权留在开源维护者手里。后续值得跟踪的是 v1.0 正式发布节奏、各硬件平台优化成果、联盟工作组的公开产出,以及更多非成员机构参与贡献的情况。

【相关 FAQ】

问题 1:SGLang 联盟是由哪些公司成立的?为什么说英伟达和 AMD 罕见坐到同一张桌前?

回答 1:SGLang 联盟由 LMSYS Org 于 2026 年 11 月 12 日在首届 SGLang Summit 上宣布成立,九大创始成员是 NVIDIA、AMD、Intel、Google、Meta、Thinking Machines Lab、Cloudflare、Modal 和 RadixArk。NVIDIA 与 AMD 在 AI 加速器市场长期直接竞争,这次连同 Intel 一起加入同一个开源推理框架联盟,围绕 SGLang 做路线图讨论和硬件优化协作,因此被形容为 "罕见同台"。

问题 2:SGLang 联盟具体做什么?联盟成员能不能直接控制 SGLang 项目代码?

回答 2:联盟聚焦前沿模型支持、推理与多模态负载、分布式推理和硬件优化,成员指派技术代表参加每年两次路线图会议,通过工程经验、生产反馈、测试资源和联合开发参与协作。成员不能控制代码:SGLang 维护者仍保留技术决策权和代码合并权限,联盟只做建言和共建,项目继续对整个开源社区开放。

问题 3:SGLang 到底是什么?这个联盟成立后对 AI 推理成本有什么影响?

回答 3:SGLang 是 LMSYS Org 主导的开源全栈推理引擎,负责把大模型和多模态系统在不同硬件上高效跑起来,承担请求调度、显存管理和计算复用等工作。联盟把头部芯片厂商、模型公司和云平台的生产经验回流到框架,目标是提升跨硬件效率、降低单位推理成本;官方称已有 332 家机构采用,Meta 迁移后 GPU 资源节省超过 2 倍,但具体收益随部署场景变化。

问题 4:SGLang 联盟和同期发布的 SGLang v1.0、Miles v0.2 是什么关系?

回答 4:三者都出自首届 SGLang Summit:联盟是跨公司长期协作组织,SGLang v1.0 是推理引擎下一版本规划,重点在生产稳定性、兼容性、统一内存管理和分层缓存;Miles v0.2 是配套的强化学习后训练框架,扩展到更多硬件和图像、视频、音频负载。联盟成员的工程投入会反哺 SGLang 和 Miles 的路线图,但版本发布仍由维护者按开源流程推进。

【参考资料】

  • [2026-11-18](NVIDIA, AMD and Intel Join SGLang Alliance to Shape Its Roadmap)TokenPost
  • [2026-11-17](SGLang Summit 2026 Recap: Building Open AI Infrastructure Together)LMSYS Org
  • [2026-11-17](Nvidia, AMD Join SGLang Group; Meta Reports 2x GPU Savings)FourWeekMBA
  • [2026-11-15](SGLang Consortium: Nvidia, AMD, Intel and Google Unite Behind Open-Source AI Inference)Wasl Tech
  • [2026-11-14](NVIDIA, AMD and Intel Join Forces for SGLang)igor´sLAB
  • [2026-11-13](Rakipler aynı masada: Nvidia, AMD ve Intel tek bir açık kaynak projede buluştu)CHIP Online
  • [2026-11-12](LMSYS Org Launches SGLang Consortium with NVIDIA, AMD, Intel, Google, Meta, Thinking Machines Lab, Cloudflare, Modal and RadixArk)Business Wire
  • [2026-11-12](LMSYS Org Launches SGLang Consortium to Advance Open-Source AI Inference)LMSYS Org
  • [2026-11-12](SGLang Consortium: Who Joined and What Changes)explainx.ai

【免责声明】

本文基于 LMSYS Org 官方公告、峰会回顾及公开媒体报道整理,仅作行业信息梳理,不构成投资建议、采购建议或技术选型依据;联盟成员名单、治理机制、产品版本、性能数据和硬件支持情况可能随官方后续更新调整,文中涉及的吞吐、成本节省等指标均来自特定部署场景,不可直接类推到其他环境。实际决策请以 SGLang 官方文档、开源仓库和各厂商公开说明为准,读者据此部署或投入产生的风险自行承担。

本文来自作者[虚轨溯源使]投稿,不代表环球科技潮立场,如若转载,请注明出处:https://www.zennew.com/rgzn/202611/3240.html

赞 (0)

今日大家都在搜的词:

发表回复

本站作者后才能评论

评论列表(4条)

  • 虚轨溯源使
    虚轨溯源使 2026年11月19日

    我是环球科技潮的签约作者“虚轨溯源使”!

  • 虚轨溯源使
    虚轨溯源使 2026年11月19日

    希望本篇文章《英伟达 AMD 罕见同台九大创始成员联手成立 SGLang 联盟,共推开源 AI 推理》能对你有所帮助!

  • 虚轨溯源使
    虚轨溯源使 2026年11月19日

    本站[环球科技潮]内容主要涵盖:科技,科技新闻,黑科技

  • 虚轨溯源使
    虚轨溯源使 2026年11月19日

    本文概览:先说结论:2026 年 11 月 12 日,非营利组织 LMSYS Org 在旧金山首届 SGLang Summit 开幕 keynote 上宣布成立 SGLang Consortium(SGLang 联盟),九大创始成员分别是 NVIDIA、AMD、Intel、Google、Meta、Thinking Machines Lab、Cloudflare、Modal 和 RadixArk。其中 NVIDIA、AMD、Intel 本是 AI 加速芯片市场的直接竞争对手,如今坐到同一张桌前,共同围绕开源推理引擎 SGLang 参与路线图讨论、工程协作、生产反馈、测试资源投入和联合开发;联盟聚焦前沿模型支持、推理与多模态负载、分布式推理和硬件优化四个方向。需要注意一条治理红线:联盟成员负责建言和共建,SGLang 维护者仍掌握技术决策权和代码合并权限,项目继续向整个开源社区开放,不是被几家公司接管的封闭分支。同期峰会上还公布了 SGLang v1.0 规划、Miles v0.2 发布、SGLang 接入 NVIDIA NIM 认证微服务,以及 Intel 平台优化和 AWS Trainium 预览;官方口径显示 SGLang 已被 332 家机构采用,Meta 迁移后 GPU 资源节省超过 2 倍。

联系我们

联系:143 0457 151

工作时间:周一至周五,9:30-18:30,节假日休息

关注我们