中國儲能網訊：以大模型為代表的人工智能技術不斷取得突破并獲得廣泛應用，其背后的算力需求呈現(xiàn)井噴式的增長態(tài)勢。為了滿足大模型訓練和推理的大規(guī)模、高性能算力需求，算力基礎設施的資源供給模式正在從單點資源池、單點應用向云、邊、端多層次資源池及多級算力協(xié)同的方向發(fā)展。最終，算力節(jié)點將通過無所不在的網絡連接有機融合，實現(xiàn)計算、網絡、存儲等多維資源的一體化柔性供給。
為了實現(xiàn)這一目標，算力網絡的概念應運而生。依照國際電信聯(lián)盟（ITU）的定義，算力網絡是一種通過網絡控制面分發(fā)服務節(jié)點的算力、存儲、算法等資源信息，結合網絡信息，以用戶需求為核心，提供最佳的計算、存儲、網絡等資源的分發(fā)、關聯(lián)、交易與調配，從而實現(xiàn)整網資源的最優(yōu)化配置和使用的新型網絡技術。它通過對全網資源的高效整合和優(yōu)化分配，為計算任務提供強大的算力支持。
算力網絡將成重要基礎設施，
算力調度是核心能力
和電力網絡一樣，算力網絡也將成為重要的基礎設施，為經濟發(fā)展和社會進步提供基礎資源。一方面，把資源高效分配給需求方，提高資源利用效率；另一方面，支持用戶按需獲取資源，而無需關心資源的具體來源。
與電力網絡相比，算力網絡的建設運行更具挑戰(zhàn)性。例如，在資源類型方面，電力網絡提供的是單一的電力資源服務，算力網絡則更加多元，包括通用算力、超算算力、智能算力等；在資源調度方面，電力網絡相對標準化和統(tǒng)一化，目標是電力的供需平衡，算力網絡則需考慮計算任務的類型、數據流、指令流等更多因素；在業(yè)務場景方面，電力網絡被廣泛應用但主要集中在能源的供應和消費，算力網絡則涵蓋人工智能、大數據處理、自動駕駛、智能物聯(lián)網等領域，顯示出更加多樣化的特征。
算力網絡要想像電力網絡一樣高效、穩(wěn)定、便捷地提供資源服務，需要重點打造以下技術能力。
一是算力度量，即針對不同類型、不同架構的算力建立統(tǒng)一的評價體系與標識體系，賦能算力流通，類似電力網絡使用“千瓦時”作為量綱，這也是為算力的感知、管控、服務打造的必要基礎和標準。
二是算力感知，即在實現(xiàn)算力的統(tǒng)一度量與標識的基礎上，捕捉業(yè)務算力需求信息以及算力資源信息，從而為算力網絡調度編排提供依據，實現(xiàn)資源配置的最優(yōu)化。
三是算力路由，即通過擴展傳統(tǒng)的網絡路由協(xié)議，實現(xiàn)對網絡、計算、存儲等多維度資源、服務的感知與通告，實現(xiàn)網絡和算力資源的聯(lián)合調度。
四是確定性承載，即為基礎網絡提供確定性能力，目標是改變傳統(tǒng)網絡的“盡力而為”轉發(fā)方式，實現(xiàn)帶寬可控、路徑可控、抖動可控，為算力路由、算力通告提供“準時、準確”的高可靠連接保障。
五是算力調度，即通過編排實現(xiàn)算力調度與業(yè)務運營的結合，根據不同的業(yè)務場景對多樣化的算力資源自動進行需求匹配和調度。
在上述技術體系中，算力調度作為連接用戶業(yè)務需求和算力網絡資源的中樞，是構成算力網絡服務的核心能力。算力調度涉及的場景和范圍非常廣泛，不僅要在多云、云網之間進行協(xié)同，還要在跨行業(yè)、跨地區(qū)、跨層級的復雜場景中進行調度。算力調度主要有三類方案，分別是基于控制器對接的集中管控方案、基于路由協(xié)議擴展的算力網關方案和基于DNS域名解析的算力互聯(lián)網方案。
中國電信天翼云的“息壤”平臺采用基于控制器對接的集中管控方案，打造與算力控制器和網絡控制器對接的一體化調度平臺，通過分布式的控制器獲取全局的算網信息，并根據業(yè)務需求進行全局算力調度，有效整合各方異構算力資源，為全社會提供標準化算力。當前，“息壤”正在從算力互聯(lián)調度平臺升級成為集算網調度、計算加速、模型訓推于一體的智算服務平臺，有力地支持了大模型和人工智能產業(yè)的蓬勃發(fā)展。
云邊端多級算力協(xié)同，提升電力人工智能大模型推理效能
隨著規(guī)模定律（Scaling Law）持續(xù)生效，大模型所需的算力規(guī)?？焖僭鲩L。為消除單點集群在節(jié)點數和資源量上的限制，分布式、異構化的算力網絡承載著大模型的剛性需求，算力的按需調度更是發(fā)揮了重要作用。此前業(yè)界對于大模型算力的討論重點在于訓練階段，然而隨著大模型與人們生產生活關系的日益緊密，推理階段的算力需求同樣不容忽視。大模型推理具有廣泛部署、持續(xù)運行等特點，直接關系到大模型應用的準確性、實時性、擴展性和資源效率，是影響大模型用戶體驗和業(yè)務成效的關鍵。與訓練階段相比，大模型推理可使用的異構算力種類繁多，資源需求的動態(tài)性、不確定性更加突出。特別值得關注的是，采用云、邊、端多級算力協(xié)同的方案可以有效提升大模型推理的效能，其核心就是合理的算力調度，即把最合適的任務調度到最合適的計算平臺上去，實現(xiàn)架構與功能特征的匹配，并根據成本、剩余資源情況等動態(tài)更新調度方案。
大模型的云邊協(xié)同推理充分運用了 智算云平臺的大規(guī)模存儲和處理能力，以及邊緣計算的接近數據源的處理能力。在該模式中，連接智算云平臺和邊緣計算平臺的算力網絡負責把不同類別的計算任務調度到云側或者邊緣側。在基于算力調度的云邊協(xié)同推理方案中，數據首先會在端側的傳感器、移動設備等地方產生和采集，再被邊緣設備接收并進行初步處理。這些處理可以包括數據清理、預處理和部分分析等。隨后，數據和任務會根據性質和需求，分配給云側或邊緣側進行進一步處理。具體來講，那些需要快速反饋的任務，通常會被留在邊緣側；而那些需要大規(guī)模數據分析和深度處理的任務，則會被發(fā)送至云側?；诤侠淼恼{度，云、邊、端的算力能夠提供更加高效、靈活的計算服務，在滿足不同任務需求的同時，提高整體的計算效率。
國家電網的人工智能算力體系采用省側云、場站邊和設備端三層架構，基于算力調度的大模型云邊協(xié)同推理對于電網業(yè)務的智能化升級相當重要。例如，在全景巡視、設備巡檢等場景中，位于端側的無人機、攝像頭等重點負責圖像、視頻、點云等多種類型數據的感知和采集；位于邊側的場站邊的算力資源數量、性能有限，在推理階段可重點開展端側上傳數據的缺陷樣本初步篩選，并將篩選后的缺陷樣本傳送至云側；位于云側的省側云對缺陷樣本進行深入分析，確定缺陷的類型、位置等信息。在這一過程中，云側保證了模型具備較高的準確性和智能識別能力，而邊側的應用則確保了實時性和效率。云邊協(xié)同推理方案為相關場景提供了可靠支持，可有效預防各類風險。
圍繞基于算力調度的大模型云邊協(xié)同推理，中國電力科學研究院聯(lián)合中國電信研究院、北京航空航天大學、中國科學院網絡信息中心等先進產學研合作伙伴，開展了電力人工智能大模型分布式算力調度與協(xié)同訓練推理技術的攻關，重點面向電力人工智能場景多樣性強、推理實時性高等特點，構建基于算力調度的云邊協(xié)同推理加速器。通過研究基于實時數據流調度的云邊協(xié)同預處理和推理優(yōu)化策略，提高云邊協(xié)同的數據處理效率和推理速度；以此為基礎打造可適配算力網絡環(huán)境中異構算力的輕量級運行環(huán)境，為邊緣設備提供高效、靈活的計算支持，降低計算任務的部署和運行成本；同時研究基于網絡壓縮與切割的深度模型云邊協(xié)同加速機制，為電力人工智能應用提供實時、準確的支持，降低計算任務的延遲和能耗。
當前，攻關工作在異構算力支持、模型輕量化、分布式推理加速等方面取得突破，并開展了邊側算力規(guī)模受限、異構算力設備分布式接入條件下的人工智能模型推理加速實驗。實驗顯示，云邊異構算力的協(xié)同調度既能夠支持低代價、自適應的大模型輕量化，又能夠保持推理精度的分布式推理，與電力需求場景實現(xiàn)更好的匹配。
算力作為大模型乃至人工智能發(fā)展的核心支撐力量，其重要性正隨著技術的演進而越發(fā)凸顯。在大模型時代，模型的參數規(guī)模和復雜性呈指數級增長，對算力的需求也從單機計算邁向了分布式、集群化甚至跨地域、全球化的算力協(xié)同。同時，算力的分布也從傳統(tǒng)的數據中心向邊緣計算和終端設備延伸，特別是為了滿足推理階段的實時性、低延遲等需求，算力需要下沉到邊緣設備以實現(xiàn)快速響應和本地化處理。在這種情況下，將不同層級、不同位置的異構算力聯(lián)系起來的算力網絡作為未來人工智能發(fā)展的重要基礎設施，打破了傳統(tǒng)單點算力的局限性，通過引入智能化的算力調度策略，能夠根據實時需求動態(tài)分配資源，提高資源利用率并降低能耗，這不僅提升了系統(tǒng)的靈活性和響應速度，還為人工智能的廣泛應用提供了更廣闊的空間。
（作者系中國電信研究院大數據與人工智能研究所副所長。編輯：張琴琴）
