Résumé
Kòm entèlijans atifisyèl (AI) avanse rapidman, rezo sant done tradisyonèl yo fè fas a gwo defi lè yo pote trafik AI. Gwo itilizasyon lajè ak yon ti kantite koule elefan ka rann balans chaj konvansyonèl pou chak-inefficace, sa ki lakòz konjesyon ak pèt pake ki ogmante siyifikativman fòmasyon modèl AI ak tan fini travay. Papye blan sa a egzamine yon teknoloji routage entèlijan dinamik ki konbine konsyans tan reyèl-ak desizyon entèlijan-. Li sèvi ak mezi bon jan kalite chemen, BGP pwolonje senkronizasyon atribi, pondere dinamik multipath (WCMP), retire chemen anòmal, ak
Flowlet-nivo oto load balancing (ALB) pou amelyore orè trafik nan anviwònman AI. Konsepsyon an itilize tou virtualizasyon pou bay plizyè-izolasyon lokatè epi li ofri senaryo aplikasyon ak konsèy planifikasyon pou rezo sant done AI ki efikas, ki estab e entèlijan.
Entwodiksyon: Evolisyon rezo nan AI a Epòk
Poukisa rezo tradisyonèl yo ap goumen ak AI Trafik
Nan rezo sant done tradisyonèl yo, yon gwo kantite ti koule pèmèt balans chaj pou chak-koule pou reyalize distribisyon akseptab ak evite anbouteyaj menm san yo pa konnen an tan reyèl-kondisyon rezo a. Trafik AI trè diferan: itilizasyon lajè a trè wo epi trafik se souvan domine pa sèlman kèk koule elefan. Se poutèt sa, kolizyon Hash ka mete plizyè gwo koule sou menm chemen an pandan ke lòt chemen yo rete sous-utilize. Yon fwa pèt pake rive, tan pou fini tout kantite travay AI a ka ogmante anpil. Pou rezon sa a, endistri a konsantre de pli zan pli sou optimize algorithm balans chaj-pou twal AI pou trafik yo distribye pi egalman sou plizyè chemen.
Figi 1. Konparezon trafik AI elefan-koule ak trafik tradisyonèl ti-koule.
Konbine Konsyantizasyon Dinamik ak Entelijan Desizyon-Pran
Routage entèlijan dinamik se yon teknoloji balanse-chaj-konsyantizasyon. Li itilize bon jan kalite chemen santi pa switch nan twal la pou ajiste seleksyon chemen lokal la epi li sipòte balanse chaj dinamik. Konstwi sou BGP, teknoloji a defini yon nouvo -atribi kominote pwolonje.
Yo itilize mezi milti-dimansyon, gwo-presizyon pou evalye bon jan kalite chemen an, epi rezilta a pwopaje atravè BGP pou gide transmisyon trafik ki vin apre. Sa a amelyore rezo -distribisyon chaj lajè epi redwi tan repons aplikasyon an [1].
Figi 2. Konsyantizasyon dinamik, desizyon, ak workflow ekzekisyon.
Teknoloji Nwayo: Orè Entelijan Trafik
Apwòch balans chaj rezo prensipal-gen ladan:
- ECMP pou chak-koule: Apwòch ki pi komen an, ki baze sou yon hash senk-tiple. Li travay byen lè gen anpil koule epi prezève lòd pake, men kolizyon hash ka pwodui move balans lè kantite koule yo ba, tankou nan fòmasyon AI [1].
- Ekilib ki baze sou Flowlet-: Sa depann de konfigirasyon kòrèk diferans ant-flowlet la. Konfigirasyon egzak difisil lè latansi nivo chemen mondyal yo pa konnen [1].
- Pou chak -pake ECMP: Bay ekselan balans teyorik men li ka kreye anpil rekòmande pake nan reseptè a [1].
Apwòch dinamik routage entèlijan itilize pa switch XingRongyuan CX-N Series RoCE (SONiC-ki baze) konbine pou chak-koule ECMP ak balans-ki baze sou Flowlet. Li entwodui dinamik WCMP (Weighted Cost Multipath) ak Flowlet-ALB (Auto Load Balancing) ki baze sou [1].
Mezi Kalite Path
Sistèm nan evalye bon jan kalite chemen rezo a lè l sèvi avèk faktè ki afekte anpil twal AI gwoup, tankou itilizasyon lajè, itilizasyon keu, ak latansi transmisyon.
Kontwa estatistik
Lajè bande ak itilizasyon keu yo mezire atravè kontè pyès ki nan konpitè ASIC ak presizyon nan nivo san-milisgond. ASIC anrejistre pò-transmèt ak keu-kontè transfè an tan reyèl. Avyon kontwòl SONiC la li kontè yo atravè koòdone SAI a nan yon dezyèm presizyon epi estoke yo nan Redis. Pwosesis kontwòl routage-la evalye kalite koòdone lè l sèvi avèk kontè sa yo epi fè piblisite pou rezilta a atravè BGP. Pou limite kontwòl-chaj avyon an, piblisite yo kounye a voye nan dezyèm-entèval nivo, ak yon mwayèn pondéré aplike a plizyè echantiyon; echantiyon ki pi resan yo resevwa pi gwo pwa.
Nan-Telemetri Band
Mezi delè transmisyon-ki baze sou INT (In-telemetri rezo a) epi li ka rive nan nivo presizyon nanosecond-. HDC (High Delay Capture) kaptire pake ki fè eksperyans gwo latansi andedan ASIC la. Lè yon pake depase yon papòt reta itilizatè -defini, switch la voye premye 150 octets nan pake orijinal la ansanm ak metadata, ki gen ladan pò antre, pò sòti, ak latansi, nan yon pèseptè. Nan konsepsyon sa a, CPU a aji kòm pèseptè ak analizeur HDC, sa ki pèmèt gwo -transmisyon presizyon-mesi reta ak pi egzak chemen-evalyasyon bon jan kalite.
Figi 3. Chemen-pwopagasyon bon jan kalite ak enstalasyon WCMP.
Teknoloji a sèvi ak yon nouvo BGP pwolonje -atribi kominote a, Path Bandwidth Extended Community, pou endike kalite total yon chemen nan yon destinasyon. Gwo -octet nan jaden ki kalite pwolonje-se 0x00 ak byte ki ba-lòd la se 0x05. Nan jaden valè a, subfield Administratè Global la reprezante nimewo AS la. Kalite chemen an kode nan kat byte lè l sèvi avèk fòma IEEE -pwen k ap flote epi li eksprime an GB/s.
Lè NIC1 kominike ak NIC2, NIC2 premye fè piblisite adrès IP li a bay Leaf2. Leaf2 fè piblisite adrès la nan kolòn vètebral la ansanm ak valè lyen-bon jan kalite a nan direksyon NIC2 miltipliye pa pwa lyen an desann Leaf2. Kolòn vètebral la ajoute pwòp bon jan kalite lyen filaplon li yo epi li pase valè akimile nan Leaf1. Leaf1 rezime bon jan kalite chemen an epi enstale wout ki gide transmisyon. Nan yon twal kolòn vètebral de-fèy-, pò yo klase kòm lyen monte Fèy, lyen desann Fèy, ak pò kolòn vètebral, ak koyefisyan kalkil configurable pou chak klas.
WCMP dinamik
Balanse chaj distribye trafik atravè plizyè lyen. Nan anviwònman AI, sa esansyèl pou konstwi yon twal Ethernet san pèt ak pèt pake minimòm, latansi, ak degradasyon debi. ECMP se mekanis konvansyonèl nan sant done yo. WCMP pwolonje ECMP pa distribye
trafik pwopòsyonèl atravè lyen yo. Nan routage entèlijan dinamik, pwa WCMP yo ajiste an tan reyèl selon bon jan kalite chemen. Pa egzanp, si genyen de chemen ant NIC1 ak NIC2, sistèm nan ka kalkile yon rapò 3:7. Kòm trafik chanje, enfòmasyon ki ajou-bon jan kalite yo pwopaje atravè BGP nan chak switch Leaf, kote wout WCMP dinamik yo pwodwi pou gide transmisyon.
Anòmal Path Retire
Lè bon jan kalite total yon chemen an tonbe pi ba pase yon papòt yo te dakò, chemen an konsidere kòm inutilisab pou kantite travay AI a epi yo retire nan transmisyon. Chemen ki rete yo kontinye pote trafik atravè WCMP dinamik. Yon fwa chemen an retounen nan nòmal, li retabli. Malgre ke sa ka tanporèman kite kèk kapasite pa itilize, li anpeche konjesyon pi grav ak pèt pake [1].
Entelijan balans chaj (ALB)
ALB bay distribisyon chaj ki baze sou Flowlet-. ASIC mezire chaj ak latansi sou diferan pò an tan reyèl epi dirije chak Flowlet nan lyen ki gen pi ba chaj oswa pi ba reta. Sa a ajoute yon orè pi byen -sou ECMP tradisyonèl yo. ALB sipòte tou failover pò ak otomatikman redistribiye trafik lè yon lyen sòti echwe [1].
Virtualization
Rezo devan-fèk yo souvan bezwen sipò milti-lokatè pou diferan resous GPU yo ka afekte diferan itilizatè yo. Solisyon an sèvi ak VRF (Virtual Routing and Forwarding) pou izole lokatè yo, ak yon sèl VRF asiyen pou chak itilizatè. Sou-rezo ki gen rapò ak GPU-yo mete nan VRF itilizatè a, ak PRE ACL nan ASIC klasifye trafik antre pou chak itilizatè yo voye trafik sèlman nan VRF ki koresponn lan [1].
Senaryo aplikasyon
1.Ki jan dinamik WCMP absòbe gwo sikilasyon
Pou yon twal ki gen 256 x 400G pò GPU, yon achitekti Clos de -niveau ka fèt ak yon rapò dirèksyon 1:1 downlink-a-uplink pou kenbe gwo debi, gwo Pleasant, ak kapasite simetrik. Modèl pwodwi apwopriye yo enkli XingRongyuan CX864E-N oswa CX732Q-N [1]. Anba ECMP konvansyonèl, yon ti kantite AI elefan koule ka hash nan menm kolòn vètebral la, sa ki lakòz konjesyon uplink oswa pèt pake. Dinamik WCMP kontinye ajiste distribisyon trafik selon bon jan kalite chemen an tan reyèl, diminye vag trafik yo epi evite konjesyon [1].
2.Flowlet-Nivo balans chaj
Nan menm twal GPU 256 x 400G, se pa tout aparèy oswa kantite travay ki pi byen sèvi pa WCMP dinamik. Chanjman an ka chwazi dinamikman ALB ki baze sou Flowlet-. ALB mezire chaj ak latansi lyen nan gwoup ECMP a epi voye Flowlets nan lyen ki gen pi ba itilizasyon oswa reta. Si yon koòdone vin twò chaje oswa reta transmisyon li ogmante, ASIC la otomatikman evite sòti sa jiskaske kondisyon yo retounen nan nòmal [1].
AI rezo planifikasyon ak konsepsyon
Sèvis AI jeneralman gen twa etap: koleksyon done ak pre-pwosesis, fòmasyon modèl, ak enferans AI. Chak etap enpoze kondisyon diferan sou rezo a.
1.Koleksyon done ak pre-traitement
Yon fòmasyon mondyal-rezo koleksyon done ak pre-pwosesis dwe bay gwo-resous IP piblik elastik ak lajè pou yo ka kolekte seri done masiv anvan tout koreksyon ak efikasite nan entènèt mondyal la. Konsepsyon an dwe asire transmisyon ki an sekirite ak ki estab pandan y ap amelyore done agrégasyon ak pèfòmans pre-pwosesis [2].
1.1 Segmantasyon VPC
Konsepsyon VPC pou koleksyon done ki baze sou nwaj-ta dwe swiv pi piti-privilèj, izolasyon kouch, kontwòl sekirite ak prensip évolutivité elastik. Swa miltip VPC oswa plizyè subnet andedan yon sèl VPC ka itilize [2].
- Segman pa etap sèvis: Deplwaye koleksyon done, pre-pwosesis, depo, fòmasyon, ak enferans nan subnet separe oswa VPC. Mete pwen antre koleksyon yo nan yon VPC DMZ oswa yon sous-rezo piblik; mete done pre-pwosesis ak tanporè nan yon VPC pwosesis devwe; Mete done kri sansib ak fòmasyon AI nan yon VPC ki gen gwo-sekirite ki pa gen aksè piblik dirèk.
- Izole pa nivo sekirite: Kreye VPC oswa sous-rezo ki gen gwo-, mwayen-, ak ba-sekirite epi sèvi ak gwoup sekirite, ACL rezo, ak koneksyon prive pou kontwole trafik trans-VPC ak trans-sous-rezo.
- Izolasyon pa lokatè oswa pwojè: Bay VPC apa a diferan lokatè oswa pwojè yo izole resous, rezo, ak done.
1.2 Rezo Sorti Koleksyon Done
Pòtay NAT: Sèvi ak yon pisin EIP ak SNAT atravè yon pòtay NAT, sa ki pèmèt pwogram koleksyon yo jwenn aksè nan entènèt la nan adrès IP piblik yo chwazi owaza.
Pwokurasyon pwòp -konstwi: Deplwaye sèvè proxy ki kenbe kat ant pwosesis koleksyon ak adrès IP piblik yo, epi distribye yon sèl demann koleksyon atravè plizyè proxy.
Founisè sèvis IP: Konekte ak yon founisè sèvis IP sou rezo prive nwaj la pou pi ba pri, sekirite kontwole, ak bon jan kalite ki estab [2].
1.3 Agregasyon done kwa-rejyon an ak pre-pwosesis
Chwazi rejyon OSS la dapre plan pre-pwosesis-grap la epi kreye yon VPC agregasyon done-nan menm rejyon an. Kreye yon Routeur Transpò (TR) nan chak rejyon, konekte VPC lokal yo, epi konekte TR yo pou VPC koleksyon rejyonal yo ka jwenn aksè dirèkteman nan OSS santral la. Lè sa a, sèvis tankou PAI-iTAG, MaxCompute, ak Flink ka fè etikèt done ak pre-pwosesis nan rejyon OSS la [2].
2. Modèl Rezo Fòmasyon
Modèl -rezo fòmasyon an byen entegre ak rezo koleksyon ak pre-pwosesis pou fòme yon twal mondyal ki konekte sant done nwaj yo, nœuds kwen yo, ak IDC sou-lokal yo.
Entèkoneksyon gwo-vitès bay mouvman done ba-latansi, gwo-debi, alòske lajè, politik sekirite, kontwòl aksè, ak rekiperasyon pou katastwòf yo dwe fèt bout a bout [2].
- Nan-rejyon kwaze-pizin kalkil gwoup: Yon Routeur Transpò konekte plizyè VPC nan menm rejyon an. ENI sèvè konekte ak switch VPC epi yo ka configuré pou debi ki nesesè yo ak RDMA.
- Cross-cloud compute pool: sikwi dedye konekte yon IDC oswa yon lòt nwaj ak yon menm-VPC rejyon an. Alibaba Cloud VBR konekte nan Kouch 3 ak aparèy kanmarad la, ak BGP, BFD, ak failover rapid pou dirèksyon rapid.
Pisin kalkil mondyal: Lyen kwa-rejyon ant TR yo pwovizyon dapre pik trafik entè-rejyon an, ak QoS entè-rejyon an opsyonèl pou kreye yon pisin kalkil inifye atravè rejyon yo [2].
3. Global Enferans-Rezo Sèvis
Yon rezo enferans mondyal chwazi modèl deplwaman selon resous ak sèvis nwaj ki disponib nan chak rejyon epi li bay distribisyon ak aksè efikas sèvis [2].
- Deplwaman Modèl oswa Ajan: Sèvi ak deplwaman Model Studio MaaS, deplwaman PAI-EAS oswa Function Compute PaaS, oswa deplwaman IaaS sou EGS, ACK, ACS, oswa Lingjun enfrastrikti metal-nan VPC kliyan an.
- Distribisyon sèvis: Kreye yon enferans-VPC distribisyon epi konekte rezo prive lè l sèvi avèk VPC Peering, ki asosye nwaj-VPC sèvis, oswa PrivateLink. Deplwaye ALB oswa ALB amelyore kòm pwen aksè ak demann proxy pou diferan modèl oswa Ajan.
- Aksè sèvis: Itilizatè entènèt lokal yo ka jwenn aksè nan ALB amelyore dirèkteman; itilizatè aleka yo ka itilize Global Accelerator (GA); Entèn oswa ekstèn itilizatè Alibaba Cloud antrepriz ka konekte an prive atravè PrivateLink.
Konklizyon ak pespektiv
Papye blan sa a eksplike defi rezo IDC yo te fè fas nan epòk AI a ak fason dinamik routage entèlijan ka adrese yo. Konsyantizasyon dinamik, pran desizyon entèlijan-, WCMP, ALB, ak virtualizasyon VRF amelyore efikasite balans chaj-, diminye konjesyon ak pèt pake, ak akselere fòmasyon AI ak enferans. Seksyon planifikasyon an mete aksan sou segmentasyon VPC, konsepsyon koleksyon-sòti, agrégasyon trans-rejyon ak pre-pwosesis, fòmasyon modèl, ak livrezon enferans mondyal. Pandan AI ap kontinye evolye, rezo sant done yo pral fè fas a kondisyon ki pi sevè. Routage entèlijan dinamik ap kontinye amelyore pou AI periferik, aprantisaj federasyon, ak lòt senaryo konplèks. Rezo IDC nan lavni yo pral mete pi gwo anfaz sou konvèjans rezo kalkil-, efikasite enèji, ak operasyon otomatik yo, kreye yon fondasyon ki pi entelijan, efikas ak serye pou ekonomi dijital la.
Referans
Itilizatè a-bay dokiman sous teknik.
Alibaba Cloud AI Network White Paper. Aksè 27 me 2026.
https://help.aliyun.com/zh/cloud-rezo-byen-architected-design/alibaba-nwaj-ai-rezo-blan-papye