智能時(shí)代加速到來(lái)，企業(yè)模型訓(xùn)練、推理算力需求爆炸式增長(zhǎng)。對(duì)于企業(yè)來(lái)說(shuō)，采用第三方云上智算資源是降低資本支出的最佳選擇，但在數(shù)據(jù)入算、模型微調(diào)、推理輸出等過(guò)程中可能面臨數(shù)據(jù)、模型泄漏的問(wèn)題。對(duì)于企業(yè)和行業(yè)用戶來(lái)說(shuō)，一方面要降低算力成本，同時(shí)又要保障訓(xùn)練、推理過(guò)程中的數(shù)據(jù)安全、用算安全。在此背景下，開(kāi)展基于智能IP廣域網(wǎng)（AI WAN）的存算分離與云邊協(xié)同訓(xùn)推技術(shù)研究具有重要意義。

2025年9月24日，中國(guó)信息通信研究院（簡(jiǎn)稱“中國(guó)信通院”）技術(shù)與標(biāo)準(zhǔn)研究所聯(lián)合華為技術(shù)有限公司在“2025中國(guó)國(guó)際信息通信展覽會(huì)”的新質(zhì)互聯(lián)網(wǎng)-AI WAN產(chǎn)業(yè)研討會(huì)上發(fā)布了《基于智能IP廣域網(wǎng)（AI WAN）的存算分離與云邊協(xié)同訓(xùn)推技術(shù)研究報(bào)告（2025年）》，中國(guó)信通院技術(shù)與標(biāo)準(zhǔn)研究所互聯(lián)網(wǎng)中心主任高巍對(duì)報(bào)告進(jìn)行了深入解讀。

報(bào)告研究面向政企模型微調(diào)訓(xùn)練、推理等業(yè)務(wù)場(chǎng)景，圍繞企業(yè)安全用算需求，基于智能IP廣域網(wǎng)（AI WAN）研究并提出了存算分離與云邊協(xié)同訓(xùn)推技術(shù)方案，滿足企業(yè)原始數(shù)據(jù)不出域、安全租用云端算力、降低企業(yè)用算成本的需求。在存算分離模型微調(diào)訓(xùn)練場(chǎng)景下，針對(duì)企業(yè)敏感數(shù)據(jù)園區(qū)外“不落盤”需求，可保障拉遠(yuǎn)100KM、400KM達(dá)到97%以上高算效。在云邊協(xié)同推理場(chǎng)景下，可實(shí)現(xiàn)推理性能95%以上高算效，滿足企業(yè)推理數(shù)據(jù)不出域的安全推理訴求。

報(bào)告主要內(nèi)容

1. 分析大模型微調(diào)訓(xùn)推場(chǎng)景面臨的挑戰(zhàn)。當(dāng)前企業(yè)在AI模型微調(diào)訓(xùn)練、推理等場(chǎng)景中面臨安全和成本兩重挑戰(zhàn)。在企業(yè)訓(xùn)推過(guò)程中，一方面明確數(shù)據(jù)需在原始產(chǎn)生域內(nèi)處理，以規(guī)避跨域流動(dòng)中網(wǎng)絡(luò)攻擊、惡意篡改等安全威脅。另一方面若企業(yè)自行搭建、維護(hù)算力資源，成本壓力過(guò)大；若轉(zhuǎn)向網(wǎng)絡(luò)租賃，又會(huì)因計(jì)算效率明顯降低，間接導(dǎo)致用算成本增加。

2. 提出基于智能IP廣域網(wǎng)（AI WAN）的存算分離與云邊協(xié)同訓(xùn)推技術(shù)方案。存算分離與云邊協(xié)同訓(xùn)推技術(shù)方案在存算分離模型微調(diào)訓(xùn)練與云邊協(xié)同推理兩大場(chǎng)景中，分別從資源調(diào)度、數(shù)據(jù)安全管理、算力分配等維度提供針對(duì)性技術(shù)方案，兼顧用算安全與成本，幫助破解行業(yè)痛點(diǎn)問(wèn)題，為突破AI應(yīng)用瓶頸提供了核心支撐。支撐存算分離與云邊協(xié)同訓(xùn)推技術(shù)方案的核心技術(shù)包括模型拆分學(xué)習(xí)技術(shù)、精準(zhǔn)流控技術(shù)和自動(dòng)流級(jí)調(diào)度技術(shù)。

                                                                                                                                                    來(lái)源：中國(guó)信通院

3. 深度總結(jié)存算分離與云邊協(xié)同訓(xùn)推的三大核心技術(shù)。模型拆分學(xué)習(xí)技術(shù)通過(guò)將模型與數(shù)據(jù)按安全等級(jí)、處理需求拆分部署，從根源上避免了原始數(shù)據(jù)泄露的風(fēng)險(xiǎn)。同時(shí)，解決算力獲取、數(shù)據(jù)保護(hù)與成本控制的矛盾。精準(zhǔn)流控技術(shù)與SRv6切片功能結(jié)合，通過(guò)整網(wǎng)路徑部署對(duì)應(yīng)的切片，在滿足不同業(yè)務(wù)對(duì)網(wǎng)絡(luò)帶寬、時(shí)延、抖動(dòng)等差異化SLA需求的情況下實(shí)現(xiàn)逐級(jí)反壓。從而保障企業(yè)用算的算效穩(wěn)定性，降低企業(yè)用算成本。自動(dòng)流級(jí)調(diào)度技術(shù)通過(guò)控制器納管智能IP廣域網(wǎng)設(shè)備，基于優(yōu)化算法以網(wǎng)絡(luò)帶寬利用率最大為目標(biāo)進(jìn)行路徑規(guī)劃，實(shí)現(xiàn)網(wǎng)絡(luò)運(yùn)力最大化，進(jìn)一步為企業(yè)用算提高效率，可有效降低企業(yè)用算成本。

4. 關(guān)鍵技術(shù)典型場(chǎng)景實(shí)驗(yàn)驗(yàn)證。在實(shí)驗(yàn)室針對(duì)大模型存算分離、云邊協(xié)同訓(xùn)推、訓(xùn)推安全等方面進(jìn)行了系統(tǒng)性研究與多輪次驗(yàn)證。實(shí)驗(yàn)數(shù)據(jù)有效驗(yàn)證了模型拆分學(xué)習(xí)技術(shù)的安全性，同時(shí)驗(yàn)證了精準(zhǔn)流控技術(shù)與自動(dòng)流級(jí)調(diào)度技術(shù)對(duì)智能IP廣域網(wǎng)絡(luò)的無(wú)損與算效保障，在LLAMA2-13B、Qwen2.5vl-32B、CV類模型RESNET、DeepSeek等大模型100KM和400KM存算拉遠(yuǎn)場(chǎng)景下，算效劣化低于3%，Qwen 32B模型在200KM云邊協(xié)同推理場(chǎng)景下，劣化不超過(guò)5%。

報(bào)告目錄

一、概述

（一）背景

（二）AI大模型訓(xùn)練與推理技術(shù)應(yīng)用

二、大模型微調(diào)訓(xùn)推場(chǎng)景面臨的挑戰(zhàn)

三、基于智能IP廣域網(wǎng)（AI WAN）的存算分離與云邊協(xié)同訓(xùn)推技術(shù)方案

（一）方案總體架構(gòu)

（二）模型拆分學(xué)習(xí)技術(shù)

（三）精準(zhǔn)流控技術(shù)

（四）自動(dòng)流級(jí)調(diào)度技術(shù)

四、關(guān)鍵技術(shù)典型場(chǎng)景實(shí)驗(yàn)

（一）存算分離拉遠(yuǎn)算效

（二）云邊協(xié)同推理安全性

（三）云邊協(xié)同算力資源配置優(yōu)化

五、總結(jié)展望

主要專家簡(jiǎn)介

中國(guó)信通院技術(shù)與標(biāo)準(zhǔn)研究所互聯(lián)網(wǎng)中心主任，高級(jí)工程師

高巍

中國(guó)通信標(biāo)準(zhǔn)化協(xié)會(huì)TC3WG3組長(zhǎng)，網(wǎng)絡(luò)5.0技術(shù)和產(chǎn)業(yè)創(chuàng)新聯(lián)盟秘書長(zhǎng)。長(zhǎng)期從事數(shù)據(jù)通信、云計(jì)算、工業(yè)互聯(lián)網(wǎng)等領(lǐng)域的研究，負(fù)責(zé)2項(xiàng)國(guó)家標(biāo)準(zhǔn)和20余項(xiàng)行業(yè)標(biāo)準(zhǔn)的制訂，在國(guó)內(nèi)外公開(kāi)發(fā)表論文20余篇，參編專著1部，獲得專利授權(quán)3項(xiàng)。

中國(guó)信通院技術(shù)與標(biāo)準(zhǔn)研究所工程師

陳云柯

長(zhǎng)期從事數(shù)據(jù)通信、智算廣域網(wǎng)等領(lǐng)域研究工作，負(fù)責(zé)1項(xiàng)國(guó)家標(biāo)準(zhǔn)和4項(xiàng)行業(yè)標(biāo)準(zhǔn)的制訂，在國(guó)內(nèi)外公開(kāi)發(fā)表論文6篇，獲得國(guó)家發(fā)明專利4項(xiàng)。

版權(quán)聲明：本報(bào)告版權(quán)屬于中國(guó)信息通信研究院、華為技術(shù)有限公司，并受法律保護(hù)。轉(zhuǎn)載、摘編或利用其它方式使用本報(bào)告文字或者觀點(diǎn)的，應(yīng)注明“來(lái)源：中國(guó)信息通信研究院、華為技術(shù)有限公司”。