【文章內(nèi)容簡介】 衡。同時，以深度學習為代表的新一代AI在邊緣側(cè)應(yīng)用還需要新的技術(shù)優(yōu)化。當前，即使在推理階段對一副圖片的處理也往往需要超過10億次的計算量，標準的深度學習算法顯然是不適合邊緣側(cè)的嵌入式計算環(huán)境。業(yè)界正在進行的優(yōu)化方向包括自頂向下的優(yōu)化，即把訓練完的深度學習模型進行壓縮來降低推理階段的計算負載；同時，也在嘗試自底向上的優(yōu)化，即重新定義一套面向邊緣側(cè)嵌入系統(tǒng)環(huán)境的算法架構(gòu)。l 存儲數(shù)字世界需要實時跟蹤物理世界動態(tài)變化，并按照時間序列存儲完整的歷史數(shù)據(jù)。新一代時序數(shù)據(jù)庫TSDB（Time Series Database）是存放時序數(shù)據(jù)（包含數(shù)據(jù)的時間戳等信息）的數(shù)據(jù)庫，并且需要支持時序數(shù)據(jù)的快速寫入、持久化、多緯度的聚合查詢等基本功能。為了確保數(shù)據(jù)的準確和完整性，時序數(shù)據(jù)庫需要不斷插入新的時序數(shù)據(jù)，而不是更新原有數(shù)據(jù)。面臨了如下的典型挑戰(zhàn)：? 時序數(shù)據(jù)寫入：支持每秒鐘上千萬上億數(shù)據(jù)點的寫入。? 時序數(shù)據(jù)讀取：支持在秒級對上億數(shù)據(jù)的分組聚合運算。? 成本敏感：由海量數(shù)據(jù)存儲帶來的是成本問題。如何更低成本地存儲這些數(shù)據(jù)是時序數(shù)據(jù)庫需要解決的重中之重。2）虛擬化層虛擬化技術(shù)降低了系統(tǒng)開發(fā)和部署成本，已經(jīng)開始從服務(wù)器應(yīng)用場景向嵌入式系統(tǒng)應(yīng)用場景滲透。典型的虛擬化技術(shù)包括裸金屬(Bare Metal)架構(gòu)和主機（Host）架構(gòu)，前者是虛擬化層的虛擬機管理器（Hypervisor）等功能直接運行在系統(tǒng)硬件平臺上，然后再運行操作系統(tǒng)和虛擬化功能。后者是虛擬化層功能運行在主機操作系統(tǒng)上。前者有更好的實時性，智能資產(chǎn)和智能網(wǎng)關(guān)一般采用該方式。3）EVF（Edge Virtualization Function）層EVF是將功能軟件化和服務(wù)化，并且與專有的硬件平臺解耦?；谔摂M化技術(shù)，在同一個硬件平臺上，可以縱向?qū)⒂布?、系統(tǒng)和特定的EVF等按照業(yè)務(wù)進行組合，虛擬化出多個獨立的業(yè)務(wù)區(qū)間并彼此隔離。ECN的業(yè)務(wù)可擴展性能夠降低CapEx并延長系統(tǒng)的生命周期。EVF可以靈活組合與編排，能夠在不同硬件平臺、不同設(shè)備上靈活遷移和彈性擴展，實現(xiàn)資源的動態(tài)調(diào)度和業(yè)務(wù)敏捷。EVF層提供如下可裁剪的多個基礎(chǔ)服務(wù)：l 分布式的聯(lián)接計算Fabric服務(wù)；l OPC UA服務(wù)；l 實時流式數(shù)據(jù)分析服務(wù)；l 時序數(shù)據(jù)庫服務(wù)；l 策略執(zhí)行服務(wù)；l 安全服務(wù)。ECN關(guān)鍵技術(shù)：1）軟件定義網(wǎng)絡(luò)（SDN）SDN采用與傳統(tǒng)網(wǎng)絡(luò)截然不同的控制架構(gòu)，將網(wǎng)絡(luò)控制平面和轉(zhuǎn)發(fā)平面分離，采用集中控制替代原有分布式控制，并通過開放和可編程接口實現(xiàn)“軟件定義”。SDN不僅是新技術(shù)，而且變革了網(wǎng)絡(luò)建設(shè)和運營的方式：從應(yīng)用的角度構(gòu)建網(wǎng)絡(luò)，用IT的手段運營網(wǎng)絡(luò)。SDN架構(gòu)包括控制器、南/北向接口、以及應(yīng)用層的各類應(yīng)用和基礎(chǔ)設(shè)施層的各種網(wǎng)元。其中最重要的是SDN控制器，它實現(xiàn)對基礎(chǔ)設(shè)施層的轉(zhuǎn)發(fā)策略的配置和管理，支持基于多種流表的轉(zhuǎn)發(fā)控制。SDN對邊緣計算的獨特價值：l 支持海量聯(lián)接支持百萬級海量網(wǎng)絡(luò)設(shè)備的接入與靈活擴展，能夠集成和適配多廠商網(wǎng)絡(luò)設(shè)備的管理。l 模型驅(qū)動的策略自動化提供靈活的網(wǎng)絡(luò)自動化與管理框架，能夠?qū)⒒A(chǔ)設(shè)施和業(yè)務(wù)發(fā)放功能服務(wù)化，實現(xiàn)智能資產(chǎn)、智能網(wǎng)關(guān)、智能系統(tǒng)的即插即用，大大降低對網(wǎng)絡(luò)管理人員的技能要求。l 端到端的服務(wù)保障對端到端的GRE、L2TP、IPSec、Vxlan等隧道服務(wù)進行業(yè)務(wù)發(fā)放，優(yōu)化Qos調(diào)度，滿足端到端帶寬、時延等關(guān)鍵需求，實現(xiàn)邊緣與云的業(yè)務(wù)協(xié)同。l 架構(gòu)開放將集中的網(wǎng)絡(luò)控制以及網(wǎng)絡(luò)狀態(tài)信息開放給智能應(yīng)用，應(yīng)用可以靈活快速地驅(qū)動網(wǎng)絡(luò)資源的調(diào)度。當前，邊緣計算SDN技術(shù)已經(jīng)成功應(yīng)用于智能樓宇、智慧電梯等多個行業(yè)場景。2）低時延網(wǎng)絡(luò)（TSN）標準以太網(wǎng)技術(shù)已經(jīng)廣泛應(yīng)用，具有傳輸速率高、拓撲靈活、傳輸距離遠、成本有效等優(yōu)點。同時，以太網(wǎng)技術(shù)由于傳統(tǒng)Qos機制約束、CSMA/CD沖突檢測機制約束等無法保證實時性、確定性等行業(yè)關(guān)鍵需求。業(yè)界對標準以太網(wǎng)技術(shù)進行了優(yōu)化，并提出了多種工業(yè)實時以太網(wǎng)技術(shù)的商業(yè)實現(xiàn)，多種商業(yè)實現(xiàn)并存的格局給互聯(lián)互操作帶來了障礙和挑戰(zhàn)。近年，（Time Sensitive Network）技術(shù)標準，旨在推動實時以太網(wǎng)的標準化和互通，最終實現(xiàn)OT和ICT采用“一張網(wǎng)”，并帶來如下價值：l 確定性:μs級時延、低于500ns級抖動；l 接口帶寬大于1Gbps，滿足工業(yè)機器視覺等場景的大帶寬需求；l 通過多路徑或冗余路徑實現(xiàn)可靠的數(shù)據(jù)傳輸；l 與SDN技術(shù)相結(jié)合，實現(xiàn)對TSN網(wǎng)絡(luò)和非TSN網(wǎng)絡(luò)的統(tǒng)一調(diào)度管理。TSN設(shè)計理念是在標準的以太網(wǎng)物理層之上，在MAC層提供統(tǒng)一的低時延隊列調(diào)度機制、資源預留機制、時鐘同步機制、路徑控制機制、配置管理模型等，能實現(xiàn)與標準以太網(wǎng)的互聯(lián)互通。當前，TSN已經(jīng)建立起良好的產(chǎn)業(yè)協(xié)作生態(tài)，包括：IEEE負責標準制定，Avnu Alliance負責互通認證，以ECC和IIC為代表的產(chǎn)業(yè)組織正在通過Testbed等活動進行產(chǎn)業(yè)示范和推廣。3）異構(gòu)計算（HC）異構(gòu)計算架構(gòu)旨在協(xié)同和發(fā)揮各種計算單元的獨特優(yōu)勢：CPU擅長對系統(tǒng)進行控制、任務(wù)分解、調(diào)度；GPU具有強大的浮點和向量計算能力，擅長矩陣和矢量運算等并行計算；FPGA具有硬件可編程和低延時等優(yōu)勢；ASIC具有功耗低、性能高，成本有效等優(yōu)勢。異構(gòu)計算目標是整合同一個平臺上分立的處理單元使之成為緊密協(xié)同的整體來協(xié)同處理不同類型的計算負荷。同時通過開放統(tǒng)一的編程接口，實現(xiàn)軟件跨多種平臺。異構(gòu)計算架構(gòu)的關(guān)鍵技術(shù)包括：l 內(nèi)存處理優(yōu)化傳統(tǒng)架構(gòu)下，不同計算單元間傳遞數(shù)據(jù)需要數(shù)據(jù)復制，不僅占用處理器資源，還同時占據(jù)了大量的系統(tǒng)總線帶寬。異構(gòu)計算讓多個計算單元實現(xiàn)內(nèi)存統(tǒng)一尋址，任何處理單元的數(shù)據(jù)可以輕易地被其它處理單元所訪問，不必將數(shù)據(jù)復制一份到對方的內(nèi)存區(qū)域中，大大提高了系統(tǒng)性能。l 任務(wù)調(diào)度優(yōu)化各種計算單元從過去主從關(guān)系變?yōu)槠降鹊幕锇殛P(guān)系，可以根據(jù)任務(wù)情況，動態(tài)地確定最適合的計算單元來運行工作負載。涉及了調(diào)度算法、指令集、編譯器等一系列的架構(gòu)優(yōu)化。l 集成工具鏈為應(yīng)用程序員提供了硬件、軟件接口、基本的運行時環(huán)境，封裝并隱藏了內(nèi)存一致性，任務(wù)調(diào)度管理等復雜的底層細節(jié)，支持架構(gòu)參數(shù)優(yōu)化和任務(wù)調(diào)度優(yōu)化，將應(yīng)用移植工作量最小化。面向AI應(yīng)用，開放集成多種AI訓練和推理平臺，兼容多廠商計算單元。目前異構(gòu)計算在芯片設(shè)計和邊緣計算平臺設(shè)計上都有應(yīng)用。在芯片方面，整合了CPU+GPU資源，能夠?qū)崿F(xiàn)視頻編解碼加速。在計算平臺方面，利用CPU+FPGA（或GPU）實現(xiàn)人工智能的功能已經(jīng)被應(yīng)用于智能交通以及智能機器人等領(lǐng)域。4）時序數(shù)據(jù)庫 （TSDB）海量數(shù)據(jù)的高效寫入、查詢及分布式存儲是時序數(shù)據(jù)庫面臨的關(guān)鍵挑戰(zhàn)。其關(guān)鍵技術(shù)包括：l 分布式存儲分布式存儲首先要考慮的是如何將數(shù)據(jù)分布到多臺機器上面，也就是分片問題。分片可以基于時間戳+Tag+分級。將一定時間范圍內(nèi)的相同Tag（一個或多個字段相同的數(shù)據(jù)）并符合一定分級條件的數(shù)據(jù)作為相同分片存在相同機器上。存儲前可以對數(shù)據(jù)進行壓縮處理，既提高數(shù)據(jù)寫入效率，又節(jié)省存儲空間。l 分級存儲時序數(shù)據(jù)的時間戳是一種非常合適的分級依據(jù)，越近期的數(shù)據(jù)查詢得越多，是熱數(shù)據(jù)；越久以前的數(shù)據(jù)查詢得越少，是冷數(shù)據(jù)。同時，分級往往結(jié)合存儲成本等因素，將每個級別的數(shù)據(jù)存儲在不同成本的存儲介質(zhì)(內(nèi)存，HDD，SSD)上。l 基于分片的查詢優(yōu)化查詢時，根據(jù)查詢條件查詢所有的數(shù)據(jù)分片，所有的分片按照時間戳合并形成原始數(shù)據(jù)結(jié)果，當查詢條件包含聚合運算時，會根據(jù)時間采樣窗口對數(shù)據(jù)進行聚合運算，最后返回運算結(jié)果。除了商業(yè)版本外，業(yè)界已經(jīng)有大量的開源時序數(shù)據(jù)庫，如：opentsdb，kairosDB，influxdb等。數(shù)據(jù)庫除了需要滿足上述性能挑戰(zhàn)外，很重要的是提供行業(yè)數(shù)據(jù)建模與可視化工具，支持與行業(yè)應(yīng)用系統(tǒng)的快速集成。 業(yè)務(wù)Fabric業(yè)務(wù)Fabric是模型化的工作流，由多種類型的功能服務(wù)按照一定邏輯關(guān)系組成和協(xié)作，實現(xiàn)特定的業(yè)務(wù)需求，是對業(yè)務(wù)需求的數(shù)字化表示。服務(wù)的模型，包括服務(wù)名稱、執(zhí)行或提供什么樣的功能，服務(wù)間的嵌套、依賴、繼承等關(guān)系，每個服務(wù)的輸入與輸出，以及Qos、安全、可靠性等服務(wù)約束。服務(wù)的類型不僅包括邊緣計算提供的通用服務(wù)，還包括垂直行業(yè)所定義的特定行業(yè)服務(wù)。業(yè)務(wù)Fabric的主要價值包括：l 聚集業(yè)務(wù)流程，屏蔽技術(shù)細節(jié)，幫助業(yè)務(wù)部門、開發(fā)部門、部署運營部門等建立有效合作；l 和OICT基礎(chǔ)設(shè)施、硬件平臺等解耦，實現(xiàn)跨技術(shù)平臺，支撐業(yè)務(wù)敏捷；l 作為業(yè)務(wù)描述性模型，可繼承、可復用，能夠?qū)崿F(xiàn)快速建模。業(yè)務(wù)Fabric功能包括：l 定義工作流和工作負載；l 可視化呈現(xiàn)；l 語義檢查和策略沖突檢查；l 業(yè)務(wù)Fabric、服務(wù)等模型的版本管理。 聯(lián)接計算Fabric聯(lián)接計算Fabric是一個虛擬化的聯(lián)接和計算服務(wù)層，主要價值包括：l 屏蔽ECN節(jié)點異構(gòu)性；l 降低智能分布式架構(gòu)在數(shù)據(jù)一致性、容錯處理等方面的復雜性；l 資源服務(wù)的發(fā)現(xiàn)、統(tǒng)一管理和編排；l 支持ECN節(jié)點間的數(shù)據(jù)和知識模型的共享；l 支持業(yè)務(wù)負載的動態(tài)調(diào)度和優(yōu)化；l 支持分布式的決策和策略執(zhí)行。聯(lián)接計算Fabric的主要功能包括：l 可以感知每個ECN節(jié)點的ICT資源狀態(tài)（如網(wǎng)絡(luò)聯(lián)接的質(zhì)量，CPU占有率等）、性能規(guī)格（如實時性）、位置等物理信息等，為計算負載在邊緣側(cè)的分配和調(diào)度提供了關(guān)鍵輸入。b. EVF服務(wù)感知