中科曙光发布 scaleFabric，以原生无损 RDMA 破解大模型 Token 传输瓶颈

中科曙光近日发布 Token 加速技术体系 scaleFabric，以原生无损 RDMA 为核心网络底座，构建「算—存—传」三级紧耦合的 Token 加速超级通道。该体系直面大模型推理中 Token 传输瓶颈，试图在网络层把算力供给与释放两端打通，为大模型高并发、低时延推理提供底层网络支撑。

技术参数上，scaleFabric 单跳转发时延低至 260 纳秒，网卡端到端时延低于 1 微秒，与英伟达 NDR 持平；并支持 GPU 直通网络的 IBGDA 技术，实现国内首次规模化落地，让 GPU 可直接通过网络搬运数据而无需 CPU 中转，显著降低大规模 MoE 推理下的通信开销。

行业背景是，七、八、九三个月大模型密集发布，全市场 Token 价格指数自年内高点显著回落，模型能力快速普及带来价格下行。在推理算力扩张与商业化双重博弈下，scaleFabric 这类面向 Token 传输效率的底层网络创新，成为国产 AI 基础设施争夺真实场景落地、以更低成本更高调用量取胜的关键一环。