从UMX到Scale-Up光互连 阿里云勾勒Agentic AI基础设施新趋势

7月9日，从U础设2026开放计算技术大会（OCP China Summit）在北京盛大开幕。光互勾勒本届大会紧扣“智算无界：开放、连阿里多元、施新扩展”主题，趋势深度聚焦GW级智算中心建设、从U础设AI原生基础设施、光互勾勒智算网络高速互连及算电协同优化等前沿领域。连阿里作为大会战略合作伙伴，施新阿里云全面聚焦Agentic AI时代算力基础设施的趋势变革浪潮，围绕架构演进、从U础设互连协议创新、光互勾勒存算深度融合及固件智能化等核心议题展开深度研讨，连阿里清晰勾勒出下一代AI基础设施的施新技术演进路径。

（Keynote环节：陈健分享Agentic AI基础设施变革趋势）

趋势一：Agentic AI驱动算力范式第三次跃迁

随着AI应用从传统机器学习向深度学习，趋势再向Agentic AI演进，算力中心正经历从“CPU中心”到“GPU中心”，最终迈向“CPU-GPU协同”的第三次范式跃迁。

在Agentic AI场景下，Agent技术从Prompt Engineering进化至Loop Engineering，人类干预逐步退出任务流。结合vCPU超卖技术，CPU利用率与LLM请求量实现大幅提升。与此同时，为应对高并发推理需求，GPU推理集群需通过KV Cache量化/压缩、Engram等技术进一步优化推理效率，显著提升吞吐量。

阿里云服务器研发资深总监陈健在主论坛Keynote中强调，Agentic AI时代的计算本质是协作共生。智能不再仅仅是GPU上孤立运行的单一负载，而是构建在CPU、GPU、多级内存与互连架构深度协同之上的综合呈现。

趋势二：推理上下文爆炸打破“存储墙”，UMX架构破局

Agent在多轮对话中的工具调用导致上下文膨胀超过三倍。当长上下文推理的KV Cache从64K token激增至1000万token时，容量需求从百GB级跃升至TB级。这表明，AI的核心挑战已不再是单纯的GPU算力瓶颈，而是算力、内存与存储如何协同的架构设计问题。

针对这一痛点，阿里云在开放架构系统设计分论坛正式发布磐久UMX统一内存/存储扩展架构。

• 架构原理：UMX面向GPU内存扩展和CPU内存扩展互连场景，分别采用UALink和CXL计算总线，支持原生Load/Store内存语义。
• 技术优势：通过ALink Scale-Up Fabric，将DRAM、存储级内存、SSD等异构介质以纳秒级延迟统一接入算力节点，构建从芯片寄存器到百TB级存储的完整分层内存体系，以高带宽互连彻底消除AI Agent时代的“存储墙”。

阿里云超高速互连负责人孔阳介绍，UMX实现从互连芯片、介质创新到软件系统的全栈自研。以CPU Scale-Up为例，自研CXL Switch实现32GT/s传输速率与低于100ns的超低延迟，使大模型首Token延迟直降89.6%。相关内存三层解耦成果荣获SIGMOD'25工业赛道最佳论文。

（磐久UMX：AI总线级存算互连架构）

趋势三：Scale-Up互连走向光互连与开放标准

大模型多卡并行使得卡间Scale-Up带宽与算力成正比。随着信号速率向224G乃至448G演进，铜互连的距离边界被持续压缩，光互连成为必然选择。

阿里云服务器研发架构师韩天在第二演播室分享了阿里云的技术路线判断：光与铜本质是互补而非竞争。在Scale-Up网络中，阿里云采用铜光组合的NPO（Near Package Optics）方案。相比集成度高但成熟度不足、供应弹性较差的CPO（Co-Packaged Optics），NPO在解耦设计、故障隔离与供应灵活性上更具优势。

同时，UALink等开放协议正推动Scale-Up互连走向标准化。阿里云作为需求方，积极参与信通院牵头的OIF新NPO标准草案制定，旨在以规范和标准牵引资源与效率的最优化。

基于此判断，阿里云快速推出Scale-Up域NPO模块——SNPO，作为下一代磐久超节点服务器的光互连解决方案。这是行业内首款于2026年产品化的NPO&NPC光电兼容、铜/光共封装产品。SNPO针对超节点xPU Tray的高带宽密度、高板级布局密度、小芯片尺寸、短距互连、铜光兼容及架构演进性等核心需求进行深度优化，支持NPO&NPC光电兼容、铜/光共封装，覆盖单模/多模、3.2T/6.4T多种形态，并联合行业伙伴共建开放标准。

趋势四：Agentic AI能力下沉，固件智能重塑运维

面向超大规模AI集群运维的复杂挑战，将智能嵌入固件、让硬件“听得懂”自然语言，成为提升运维效率的新方向。

阿里云服务器研发技术专家王奎英在固件技术论坛分享了磐久服务器内置AI能力的BMC创新技术。通过自研BMC-CLI打通D-Bus调用链并集成到OpenBMC中，运维人员无需记忆复杂命令，即可通过自然语言完成设备管理。该技术同时支持在线与本地两种模型部署方式，标志着智能运维从上层平台正式延伸至服务器固件层。

（阿里云磐久AL128超节点服务器荣获大会最佳实践奖）

结语：构建协作共生的Agentic AI原生基础设施

从算力范式的演进，到Scale-Up存算互连的融合、光互连路线的选择与固件智能的创新，这些趋势共同指向同一条主线：Agentic AI时代的计算是协作共生的。智能不再局限于GPU，而是构建在CPU、GPU、多级内存、高速互连乃至固件系统的深度协同之上。

近年来，阿里云作为CXL联盟和UALink联盟的董事会成员，深耕开放标准和行业生态：
* 业界首发CXL内存池化超节点服务器；
* 牵头构建兼容UALink的ALink System产业生态；
* 推出磐久AL128超节点服务器。

通过芯片、服务器、互连协议、存储介质和固件系统的全栈自研与软硬协同，阿里云正持续推动开放计算生态走向繁荣，打造面向Agentic AI时代的原生云基础设施。

(责任编辑：娱乐)