分布式推理网络(DIN)技术白皮书
作者: 中国移动通信有限公司研究院 | 页数: ~25 | 章节: 6 | 生成: 2026-09-26
使用方法
- 不带参数 — 加载核心框架速览
- 带主题 — 如"PD 分离"、"PHYSec"、"丢包率指标",我读对应章节后回答
- 带章节号 — 如"ch04",加载该章详细内容
- 浏览 — 问"有哪些章节"看完整索引
核心框架与心智模型
判断前提(第1章)
- 两大趋势:AI 普及加速(DeepSeek-R1:推理速度 4 倍、API 成本为 GPT-4-Turbo 的 1/100、DAU 一月破 3000 万);AI Agent 无处不在(Agent 间去中心化实时通信流量爆发)
- 流量双增长:南北向(多模态交互,2030 年中国 AI Token 日均流量预测 500TB = 当前全国移动日均 5.5 倍);东西向(Agent 协作)
- 三大挑战:推理基础设施能力不足、网络架构技术待完善、安全防护能力待提升
- DeepSeek 教训:峰值 4900 万次/日并发打垮服务;攻击从放大攻击→HTTP 代理→僵尸网络,烈度暴增上百倍
六大协同模式(第2章)
- 算网一体安全推理:推理一体机 + 智享 WAN(SRv6+IPSec),服务政务/金融/医疗
- 边云协同后训练:本地 8 卡+云租 120 卡(vs 纯本地 128 卡),RDMA 流水线并行,数据不出园区;丢包 10⁻⁵→算效损失 >8%,需 <10⁻⁹;数十 ms 时延/十 ms 抖动→吞吐降 >50%
- 模型分层协同:Split Learning 切分模型保数据不出园区,可叠加 PD 分离;隐变量几 KB-几十 KB,TBT 亚毫秒抖动
- 大小模型协同:能力调度/推理加速/场景自适应三策略;网络设备内置 NPU+NP+CPU 走向"连接→感知→推理"
- 训推协同进化(中训边推):边缘收集不确定性数据→云端蒸馏→下发参数;PHYSec 保护模型分发
- PD 分离:Prefill 中心 + Decode 边缘,KV Cache(MB-GB 级)百毫秒传完;RDMA 10⁻⁵ 丢包即服务中断
架构与目标(第3章)
- DIN = 以 AI 推理为中心的网络基础设施,端边网算协同,差异化/高安全/高并发/高频率/高突发
- 三大设计目标:可扩展架构、确定性连接(广域丢包 <10⁻⁹、微秒级抖动)、多层次安全
关键技术(第4章)
- 微流级流控:租户级+业务流级队列隔离,反压阈值精确暂停/恢复,零丢包弹性传输,协同 PFC
- 层次化细粒度切片:G-SRv6 切片(<1ms / >10Gbps / <0.01% 丢包档)+ 随流检测秒级路径重优化
- 推理业务识别:ARN(应用像调操作系统一样调网络,IPv6 可编程空间携带标识,双向解耦);端侧无能力则网络侧 AI 识别(决策树/神经网络/知识推理增强/多专家)
- 推理服务调度:集中式(DNS→DIN 调度器)vs 分布式算力路由(算力+网络多因子联合)
- PHYSec:物理层 257B 码块全加密,原生 PAD 域承载安全参数,零开销、上层透明、兼容 FlexOsec
- DDoS 防护:百毫秒 1:1 流统计秒级感知 + AI 溯源前置过滤
- APT 监测:白名单 + 攻击知识库"白+黑"模式,监控内核/文件/账号/进程
立场框架(第5章)
- 供需双侧目标:服务商(模型随需部署/弹性调度)+ 用户(推理无处不在/体验最优)
- 运营商路径:存量网络能力(协议可编程/流量调度/确定性/安全)延伸到推理时代
章节索引
- ch01 业务发展趋势与挑战 — 两大趋势、流量变化、三大挑战
- ch02 推理业务服务模式及网络需求 — 六大协同模式及量化指标
- ch03 DIN 架构及设计目标 — 三大设计目标
- ch04 DIN 关键技术 — 流控/切片/识别/调度/PHYSec/DDoS/APT
- ch05 总结与展望 — 供需双侧目标、未来方向
- ch06 缩略语 — 全文术语表
主题索引
- PD 分离 → ch02, ch04
- PHYSec → ch04
- KV Cache → ch02
- Split Learning / 模型分层 → ch02
- 微流级流控 → ch04
- G-SRv6 / 切片 / 随流检测 → ch04
- ARN / 业务识别 → ch04
- 算力路由 / 调度 → ch04
- 训推协同进化 / 中训边推 → ch02
- 大小模型协同 → ch02
- 边云协同后训练 → ch02
- DDoS / APT 安全 → ch04
- 确定性连接 / 丢包率指标 → ch02, ch03, ch04
- DeepSeek 案例 → ch01
支撑文件
- glossary.md — 全部术语定义
- patterns.md — 六种协同模式 + 七项关键技术的用法/权衡/选型
- cheatsheet.md — 量化阈值、选型判断、信号识别
范围与限制
本 skill 仅覆盖该白皮书内容(2025 年版)。白皮书为架构愿景级文档,未含具体商业模式、部署成本模型、设备级规格。分析具体项目时请结合最新产业进展交叉验证。
