基于分區(qū)網(wǎng)關(guān)的算力網(wǎng)絡(luò)架構(gòu)及算力路由機(jī)制研究＊

［楊峰 杜翠鳳 蔡十華 王新宇］

1 前言

隨著數(shù)字化、智能化時(shí)代的到來，傳統(tǒng)集約化、中心化的云計(jì)算無法滿足部分低時(shí)延、大帶寬、低傳輸成本的場景，如智慧安防、自動(dòng)駕駛等的需要。算力必然會(huì)從云和端向網(wǎng)絡(luò)邊緣進(jìn)行擴(kuò)散，形成云、邊、端算力資源多級(jí)分布的形態(tài)[1]。云計(jì)算聚焦非實(shí)時(shí)、長周期數(shù)據(jù)的大數(shù)據(jù)分析，在大模型訓(xùn)練等領(lǐng)域發(fā)揮特長。邊緣計(jì)算聚焦實(shí)時(shí)、短周期數(shù)據(jù)的分析，能更好地支撐本地業(yè)務(wù)的實(shí)時(shí)智能化處理與執(zhí)行。算力網(wǎng)絡(luò)作為解決多級(jí)算力資源并存情況下資源統(tǒng)一供給問題的一種新型網(wǎng)絡(luò)技術(shù)方案，通過網(wǎng)絡(luò)控制面分發(fā)服務(wù)節(jié)點(diǎn)的算力、存儲(chǔ)、算法等資源信息，并結(jié)合網(wǎng)絡(luò)信息和用戶需求，提供計(jì)算、存儲(chǔ)、網(wǎng)絡(luò)等資源的分發(fā)、關(guān)聯(lián)、交易與調(diào)配，從而實(shí)現(xiàn)整網(wǎng)資源的最優(yōu)化配置和使用[2～4]。

算力網(wǎng)絡(luò)路由是一種集網(wǎng)、云、算為一體的綜合路由。在網(wǎng)絡(luò)入口節(jié)點(diǎn)，算力網(wǎng)絡(luò)路由根據(jù)用戶業(yè)務(wù)的算力和網(wǎng)絡(luò)雙SLA約束，制定算網(wǎng)路由策略。與當(dāng)前IP拓?fù)渎酚娠@著不同的是，IP/多協(xié)議標(biāo)簽交換（MPLS）拓?fù)渎酚杀举|(zhì)上解決的是“去哪里”，即明確路由的網(wǎng)絡(luò)目的節(jié)點(diǎn)，在參數(shù)上體現(xiàn)為IP地址或標(biāo)簽。在算力網(wǎng)絡(luò)架構(gòu)下，網(wǎng)、云、算綜合路由本質(zhì)上解決的是“去哪里”+“干什么（執(zhí)行何種計(jì)算服務(wù)）”，即在IP路由的基礎(chǔ)上，疊加了算力服務(wù)路由[5]。

與傳統(tǒng)的通信網(wǎng)絡(luò)不同，算力網(wǎng)絡(luò)具有如下一些特點(diǎn)：（1）算力網(wǎng)絡(luò)中的算力節(jié)點(diǎn)通常遠(yuǎn)少于網(wǎng)絡(luò)節(jié)點(diǎn)；（2）算力節(jié)點(diǎn)的算力資源信息是實(shí)時(shí)變化的，算力資源信息需要計(jì)算更新，算力路由表需要較快的更新頻率；（3）網(wǎng)絡(luò)節(jié)點(diǎn)通常不會(huì)頻繁更換設(shè)備，網(wǎng)絡(luò)拓?fù)渥兓l率較低，所以網(wǎng)絡(luò)路由表的更新可以采用相對較慢的頻率。因此有必要針對算力網(wǎng)絡(luò)的特點(diǎn)提出一種新型的路由機(jī)制。

2 算力路由技術(shù)研究現(xiàn)狀

文獻(xiàn)[6]提出了一種微服務(wù)集群架構(gòu)下的端到端路由技術(shù)解決方案，在確保與現(xiàn)網(wǎng)平滑兼容前提下，從協(xié)議轉(zhuǎn)控面角度分析IPv6 段路由（SRv6）和虛擬可擴(kuò)展局域網(wǎng)（VxLAN）的增強(qiáng)算力路由解決方案。參考文獻(xiàn)[7]在算網(wǎng)融合調(diào)度和路由系統(tǒng)中引入服務(wù)標(biāo)識(shí)，為IP分組網(wǎng)絡(luò)提供了一個(gè)面向業(yè)務(wù)和算力系統(tǒng)的新型接口，從邏輯上構(gòu)成一個(gè)在IP分組網(wǎng)上的Overlay服務(wù)子層，使網(wǎng)絡(luò)得以提供面向服務(wù)標(biāo)識(shí)的路由和尋址功能。參考文獻(xiàn)[8]提出了算力網(wǎng)絡(luò)混合式路由調(diào)度解決方案，由算力網(wǎng)絡(luò)編排管理系統(tǒng)和算網(wǎng)基礎(chǔ)設(shè)施兩部分構(gòu)成，算力網(wǎng)絡(luò)編排管理系統(tǒng)負(fù)責(zé)資源狀態(tài)感知與通告，算網(wǎng)基礎(chǔ)設(shè)施包括算力資源和網(wǎng)絡(luò)資源，算力資源負(fù)責(zé)向上層系統(tǒng)上報(bào)算力狀態(tài)信息，網(wǎng)絡(luò)資源負(fù)責(zé)接收上層系統(tǒng)下發(fā)的算力狀態(tài)信息。

以上關(guān)于算力網(wǎng)絡(luò)路由技術(shù)的研究，都是將算力信息承載到路由協(xié)議報(bào)文中，算力路由節(jié)點(diǎn)需要在傳統(tǒng)的路由表中，基于接收的算力狀態(tài)信息，在網(wǎng)絡(luò)信息表基礎(chǔ)上維護(hù)本地算力信息表?；趯W(wǎng)絡(luò)、計(jì)算、存儲(chǔ)等多維資源、服務(wù)的狀態(tài)感知，將算力信息注入路由表，生成“網(wǎng)絡(luò)+計(jì)算”的新型路由表。

相比于傳統(tǒng)的路由表，算力感知的路由表中新增了“算力參數(shù)信息”和“網(wǎng)絡(luò)、計(jì)算總參數(shù)信息”。此方案的優(yōu)點(diǎn)是不用單獨(dú)發(fā)明新的路由協(xié)議，對傳統(tǒng)網(wǎng)絡(luò)的擴(kuò)展性好，缺點(diǎn)是沒有充分考慮算力網(wǎng)絡(luò)中算力節(jié)點(diǎn)信息和應(yīng)用信息靈活變化的特點(diǎn)，需要頻繁在網(wǎng)絡(luò)中發(fā)布路由信息，增加了網(wǎng)絡(luò)的開銷。

3 基于分區(qū)的算力網(wǎng)絡(luò)架構(gòu)

現(xiàn)有算力網(wǎng)絡(luò)中算力信息的交互是通過路由協(xié)議擴(kuò)展，將算力信息包含在網(wǎng)絡(luò)路由報(bào)文中發(fā)布給網(wǎng)絡(luò)中的所有節(jié)點(diǎn)，其路由轉(zhuǎn)發(fā)表過于臃腫，控制平面的信息同步頻繁，路由收斂慢。本文對算力網(wǎng)絡(luò)的架構(gòu)和業(yè)務(wù)特性進(jìn)行了分析，基于算力網(wǎng)絡(luò)特點(diǎn)，提出了一種新的基于網(wǎng)關(guān)分區(qū)的算力網(wǎng)絡(luò)架構(gòu)及算力路由機(jī)制，主要包括以下2個(gè)關(guān)鍵點(diǎn)。

（1）通過將網(wǎng)絡(luò)劃分為不同的區(qū)域，每個(gè)區(qū)域設(shè)置一個(gè)區(qū)域網(wǎng)關(guān)節(jié)點(diǎn)，負(fù)責(zé)本區(qū)域內(nèi)網(wǎng)絡(luò)路由建立和算力路由建立，可以有效減小網(wǎng)絡(luò)路由通告開銷。

（2）由于每個(gè)區(qū)域的算力節(jié)點(diǎn)數(shù)量通常是遠(yuǎn)小于網(wǎng)絡(luò)節(jié)點(diǎn)，且算力節(jié)點(diǎn)的算力資源信息是實(shí)時(shí)變化的，而網(wǎng)絡(luò)節(jié)點(diǎn)通常不會(huì)頻繁變化，將網(wǎng)絡(luò)路由和算力路由分開建立，并設(shè)置不同的更新頻率，可以盡量減小算力網(wǎng)絡(luò)中網(wǎng)絡(luò)路由維護(hù)開銷，而且可以有效提高算力路由的更新頻率。

如圖1所示，本方案主要由算力節(jié)點(diǎn)、區(qū)域網(wǎng)關(guān)節(jié)點(diǎn)、轉(zhuǎn)發(fā)節(jié)點(diǎn)R、接入節(jié)點(diǎn)AR及用戶構(gòu)成，其中算力節(jié)點(diǎn)包括云計(jì)算節(jié)點(diǎn)C1、邊緣計(jì)算節(jié)點(diǎn)MEC1和MEC2，區(qū)域網(wǎng)關(guān)節(jié)點(diǎn)包括GW1和GW2，分屬于不同網(wǎng)絡(luò)。

圖1 基于分區(qū)的算力網(wǎng)絡(luò)架構(gòu)

云計(jì)算節(jié)點(diǎn)C1：該類云計(jì)算節(jié)點(diǎn)可以提供的算力資源類型和數(shù)量非常豐富，對于單一用戶而言，可以認(rèn)為其算力資源是接近無限量供應(yīng)的。云計(jì)算節(jié)點(diǎn)通常集中部署在電力資源充裕、遠(yuǎn)離城區(qū)的位置。因此從網(wǎng)絡(luò)角度來看，云計(jì)算節(jié)點(diǎn)到用戶的時(shí)延是很難控制與保障的，通常用于處理模型訓(xùn)練等對時(shí)延不敏感業(yè)務(wù)，如ChatGpt等大模型的訓(xùn)練。

邊緣計(jì)算節(jié)點(diǎn)MEC1、MEC2：該類節(jié)點(diǎn)靠近用戶設(shè)立，時(shí)延可以非常低，且不容易被其他用戶干擾，網(wǎng)絡(luò)連接的質(zhì)量可以得到有效的保障。但由于受限于機(jī)房條件，其能夠提供的算力資源類型和數(shù)量非常有限，通常用于處理推理計(jì)算等對時(shí)延敏感要求比較高的業(yè)務(wù)，如車聯(lián)網(wǎng)等。

區(qū)域網(wǎng)關(guān)節(jié)點(diǎn)GW1、GW2：區(qū)域網(wǎng)關(guān)節(jié)點(diǎn)作為各區(qū)域網(wǎng)絡(luò)路由的出口，負(fù)責(zé)建立到本區(qū)域內(nèi)算力節(jié)點(diǎn)、網(wǎng)絡(luò)節(jié)點(diǎn)及用戶的網(wǎng)絡(luò)路由和算力路由，以及維護(hù)網(wǎng)絡(luò)路由表和算力路由表并定時(shí)更新。

轉(zhuǎn)接節(jié)點(diǎn)R：負(fù)責(zé)區(qū)域網(wǎng)絡(luò)中網(wǎng)絡(luò)路由信息、算力路由信息的轉(zhuǎn)發(fā)。

接入節(jié)點(diǎn)AR：接入節(jié)點(diǎn)負(fù)責(zé)為用戶提供有線或者無線（5G、WiFi、LoRa、NB-IoT等）接入服務(wù)。

用戶：這里的用戶指需要調(diào)用算力開展業(yè)務(wù)的行業(yè)用戶或個(gè)體用戶，如AR用戶、車聯(lián)網(wǎng)用戶或者大模型研發(fā)者，通過無線或有線的方式接入網(wǎng)絡(luò)。

4 算力路由機(jī)制

結(jié)合流程圖來說明本方案的具體實(shí)施方式。

網(wǎng)絡(luò)路由建立階段，信息交互流程如圖2所示。

圖2 網(wǎng)絡(luò)路由建立過程

步驟1 設(shè)備部署以后，采用通用的TCP/IP協(xié)議建立計(jì)算節(jié)點(diǎn)、網(wǎng)絡(luò)節(jié)點(diǎn)和終端設(shè)備之間的網(wǎng)絡(luò)連接；

步驟2 區(qū)域網(wǎng)關(guān)節(jié)點(diǎn)GW周期性向區(qū)域網(wǎng)絡(luò)廣播路由更新請求消息；

步驟3 接收到該路由更新請求消息的節(jié)點(diǎn)（計(jì)算、網(wǎng)絡(luò)）向區(qū)域網(wǎng)關(guān)節(jié)點(diǎn)GW回復(fù)路由響應(yīng)消息，該路由更新響應(yīng)消息中包含區(qū)域網(wǎng)絡(luò)中各個(gè)節(jié)點(diǎn)的設(shè)備類型、IP地址等信息；

步驟4 區(qū)域網(wǎng)關(guān)節(jié)點(diǎn)GW收到各個(gè)節(jié)點(diǎn)返回的路由更新響應(yīng)消息后，建立從本節(jié)點(diǎn)到區(qū)域網(wǎng)絡(luò)中其他節(jié)點(diǎn)之間的路由，并更新路由表信息。

由于通常區(qū)域網(wǎng)絡(luò)中節(jié)點(diǎn)的變化不大，因此區(qū)域網(wǎng)絡(luò)路由的更新可以設(shè)置為較低的頻率。

算力路由建立階段，本階段只需要建立算力節(jié)點(diǎn)到各個(gè)區(qū)域網(wǎng)絡(luò)節(jié)點(diǎn)之間的路由鏈路，信息交互流程如圖3所示。

圖3 算力路由建立過程

步驟1 算力節(jié)點(diǎn)評(píng)估本節(jié)點(diǎn)的算力資源使用情況，并沿著之前建立的路由向區(qū)域網(wǎng)關(guān)節(jié)點(diǎn)發(fā)送算力路由建立請求消息；

步驟2 區(qū)域網(wǎng)關(guān)節(jié)點(diǎn)GW收到該算力路由建立請求消息后，記錄該算力節(jié)點(diǎn)可以提供的算力資源類型和數(shù)量，并建立到該算力節(jié)點(diǎn)的算力路由；

步驟3 算力節(jié)點(diǎn)周期性評(píng)估本節(jié)點(diǎn)的算力資源使用情況，并向區(qū)域網(wǎng)關(guān)節(jié)GW點(diǎn)發(fā)送算力路由更新消息；

步驟4 區(qū)域網(wǎng)關(guān)節(jié)點(diǎn)GW收到各算力節(jié)點(diǎn)發(fā)來的算力路由更新消息后，更新到各個(gè)算力節(jié)點(diǎn)的算力路由表。

由于算力節(jié)點(diǎn)的使用情況是實(shí)時(shí)變化的，因此為了及時(shí)反映各個(gè)算力節(jié)點(diǎn)的使用情況，需要將算力路由的更新設(shè)置為較高頻率，以滿足網(wǎng)絡(luò)使用需求。

算力路由階段，信息交互流程如圖4所示。

圖4 分區(qū)算力路由過程

步驟1 用戶向區(qū)域網(wǎng)關(guān)節(jié)點(diǎn)GW1發(fā)送算力需求消息，該算力需求消息包含算力資源的需求類型和數(shù)量；

步驟2區(qū)域網(wǎng)關(guān)節(jié)點(diǎn)GW1收到算力需求消息后，查詢算力路由表，查找滿足需求的算力節(jié)點(diǎn)，并將滿足需求算力節(jié)點(diǎn)的地址反饋給用戶；如果區(qū)域網(wǎng)關(guān)節(jié)點(diǎn)GW1查詢本節(jié)點(diǎn)的算力路由表后，發(fā)現(xiàn)沒有滿足條件的算力節(jié)點(diǎn)，則將該算力需求消息轉(zhuǎn)發(fā)給外網(wǎng)的其他區(qū)域網(wǎng)關(guān)節(jié)點(diǎn)GW2，直到找到滿足需求的算力節(jié)點(diǎn)，并將滿足需求的算力節(jié)點(diǎn)地址反饋給用戶；

步驟3 用戶使用Ping命令分別測試到滿足需求的各個(gè)算力節(jié)點(diǎn)的往返時(shí)延，根據(jù)本身業(yè)務(wù)需求，選擇合適的算力節(jié)點(diǎn)；

步驟4 用戶將計(jì)算任務(wù)發(fā)送給選定的計(jì)算節(jié)點(diǎn)進(jìn)行任務(wù)處理；

步驟5 計(jì)算節(jié)點(diǎn)處理完后，反饋計(jì)算結(jié)果給用戶。

5 結(jié)論

本文針對算力網(wǎng)絡(luò)的業(yè)務(wù)特點(diǎn)，提出了一種基于分區(qū)的算力網(wǎng)絡(luò)架構(gòu)和路由機(jī)制，通過將網(wǎng)絡(luò)劃分為不同的區(qū)域進(jìn)行分區(qū)管理，由區(qū)域網(wǎng)關(guān)負(fù)責(zé)本區(qū)域內(nèi)網(wǎng)絡(luò)路由建立和算力路由建立，并將網(wǎng)絡(luò)路由和算力路由分開建立，設(shè)置不同的更新頻率，可以盡量減小算力網(wǎng)絡(luò)中網(wǎng)絡(luò)路由維護(hù)開銷，提高算力路由的更新頻率。