近日，作为2026中关村论坛核心组成部分，由趋境科技与九源智能计算系统生态联合体共同主办的“全栈智能 全域推理：Token爆发元年的全场景大规模推理服务”专题研讨会成功举办。
商汤大装置首席架构师项铁尧受邀出席研讨会，并发表《商汤大装置AI原生云基础设施探索与实践》主题演讲，系统阐述了商汤大装置对AI原生时代算力集群建设的前沿判断与实践路径——如何将软硬件能力真正转化为客户可用、易用、高效的算力服务。
在他看来，当算力集群的发展进入AI原生时代，新的架构范式应具备统一的规范、极致弹性的扩缩容机制以及为大模型训练和推理深度优化的AI集群runtime。
01. AI算力池：面向角色、水平分层、资源自由流转
项铁尧从底层技术视角切入，指出Kubernetes（全球最流行的容器编排平台）正朝着AI方向发展。
随着动态资源分配（DRA）、Workload API与Gateway API三项核心新特性的引入，K8s逐渐从简单的容器编排工具，进化为AI时代的操作系统。这背后，其实是整个行业在加速从云原生集群时代向AI原生时代跃迁。
围绕上述转变过程，项铁尧重点介绍了商汤大装置前瞻打造的核心产品——AI算力池。
据了解，AI算力池面向AI原生时代全新算力服务需求，采用"三明治"水平分层架构，从底层高度优化的计算网络存储基础设施，到中间层全新的虚拟集群技术，再到上层涵盖开发机、训练平台、部署平台及Agentic Engine的完整PaaS产品体系，全面杜绝不同产品之间的资源孤岛问题。
其中，大装置AI算力池具备三大优势：
1）面向角色。面对客户内部角色多元、需求复杂的现实，分别设计服务形态、提供差异化的解决方案。比如针对集群管理员与平台工程师提供高弹性虚拟集群资源；针对AI研究员，可提供丰富的脚本工具与高效研发环境等等。
2）水平分层。AI算力池采用“三明治”结构，杜绝产品间信息、资源孤岛的可能。
3）资源自由流转。用户只需购买一种通用算力形态，即可在虚拟机、虚拟集群、AI Code Space开发机等不同产品形态之间秒级自由切换，充分应对国内普遍存在的算力潮汐效应，大幅提升集群整体资源利用率。
02虚拟集群：全量托管，秒级弹性扩缩容值得一提的是，在底层Infra层，商汤大装置创新应用虚拟集群技术，解决了传统云托管服务中“数据面管理重、扩容慢”的痛点。
有别于主流云厂商仅托管控制面，数据面仍需用户自行管理的传统模式，全新的虚拟集群技术，实现了控制面与数据面的全量托管，扩缩容效率从传统方案的数分钟乃至数十分钟压缩至秒级，同时提供完全标准的K8s API，用户无需对现有代码做任何修改即可无缝接入。
03三大自研套件：护航超大规模AI训练与推理在虚拟集群基础上，项铁尧进一步提出AI集群Runtime产品概念。
“要快速搭建一个离线混部、训练推理混合使用的集群非常复杂，因为现在AI新的技术层出不穷，各种组件之间协同优化同样复杂。”项铁尧指出，“为了解决这种难题，我们通过智能推荐、深度调优与版本锁定机制，帮助用户快速搭建复杂的在离线混部、训练推理混合使用集群，降低AI基础设施的使用门槛与运维复杂度。”
为了进一步满足超大规模AI生产场景的极致性能需求，商汤大装置还自研了三大套件：
1）SenseCore Scheduler：高性能调度器，支持复杂异构硬件的在离线混合调度。
2）容错引擎：解决超大规模训练中的不稳定性，实现故障自动检测与隔离。
3）Agentic Engine：针对不断涌现的Agent使用需求，进行深入优化，包括沙箱预热、快速启动、规划保持、状态快照等。
04虚拟节点：打通弹性算力最后一环为了以更灵活的规格为客户提供算力资源，商汤大装置同步自研虚拟节点技术，它具备三大优势：
1）虚拟集群体系无缝集成；
2）提供相比于虚拟机更轻量级的使用体验以及更高效的性能；
3）提供相比于runc更好的安全性和隔离度。
05生态合作，共同助推国产推理基础设施迭代演讲中，项铁尧还特别感谢九源智能计算系统生态联合体与生态伙伴趋境科技。
目前，商汤大装置已与趋境科技展开深度合作，为趋境科技自研的ATaaS高效能AI Token生产服务平台提供高性能、高可靠的算力支撑。
据了解，趋境ATaaS高效能AI Token生产服务平台可支撑万级别AI推理需求，并达到日均万亿级别Token整体产能。
在生态联盟层面，商汤大装置作为九源智能计算系统生态联合体理事单位，积极参与这一以"产学研用服"协同合作为核心模式的开放生态。
该联合体聚焦国产智能计算系统建设、软件生态统一与技术成果转化，致力于构建自主可控的智能计算产业生态。商汤大装置加入其中，希望以自身在AI基础设施领域的积累，为整个生态贡献实质性力量，推动AI能力真正走向普惠。
未来，商汤大装置将进一步联合生态伙伴，共同推动国产推理基础设施迭代升级，为我国人工智能产业高质量发展、新质生产力落地提供坚实支撑。
转载来源：商汤科技
本文为量子位获授权转载，观点仅为原作者所有。
盛达优配提示：文章来自网络，不代表本站观点。
