作者 : Aalyia Shaukat，EDN副主編
邊緣運算(edge Computing)是今年全球消費性電子展(CES 2025)的熱門話題，業界各公司紛紛展示多樣化的應用場景：透過預先訓練的邊緣裝置在本地進行推論、直接產生所需的輸出，完全不依賴雲端。然而，這些節點的複雜性與日俱增，不僅包括感測器之間的融合與協作以實現情境感知的多模態支援，還加入了多核心設計以提升運算能力。
因此，硬體加速技術成為炙手可熱的需求。嵌入式工程師渴望找到能降低設計與開發負載的解決方案。這些解決方案各具特色，其中許多採用了雲端伺服器開發應用，隨後將其虛擬化或容器化以便在邊緣運行。然而，對於邊緣運算應用而言，並不存在通用(one-size-fits-all)的解決方案。
很顯然地，支援某種形式的硬體加速已成為成功進軍智慧嵌入式邊緣市場的關鍵。業界多家公司對此問題提出了各種解決方案，涵蓋從具備豐富軟體支援與參考程式碼的硬體加速微控制器(MCU)，到嵌入式神經網路處理器(NPU)等多種選項。
表1列舉了部份展出公司及其硬體加速技術的支援方式。
表1：業界多家公司在CES展示其硬體加速技術。
以Synaptics為例，其Astra平台已開始整合Google的多層次中間表示(MLIR)架構。Synaptics物聯網處理器資深副總裁兼總經理Vikram Gupta表示：「核心本身旨在接收模型並以通用方式運行。這有點類似於基於RISC-V開放核心的系統，但我們增加了一個引擎，由編譯器決定工作是進入引擎還是以通用方式運行。」
他補充道，「我們有意選擇了開放架構，因此，無論是Pytorch還是TFLite模型都可以。你可以將它編譯成MLIR表示，然後進一步轉換到引擎的後端。」Synaptics在CES的一項展示如圖1。
圖1：智慧相機解決方案展示Grinn SoM使用Astra SL1680和Arcturus軟體，以實現身份辨識與追蹤。新出現的臉孔將被分配一個ID和相關的信心區間，並根據與相機的距離進行調整。
在CES 2025，TI展示其TMS320F28P55x C2000即時控制器(RTC) MCU系列，該系列整合了NPU，並配備了弧光故障檢測解決方案，可實現太陽能逆變器等應用。
該系統在執行電力轉換的同時，利用人工智慧(AI)進行即時弧光故障檢測。該解決方案遵循標準流程，先收集資料並進行標記，再對弧光故障模型進行訓練，最後部署到C2000裝置上(如圖2)。
圖2：TI的太陽能弧光故障檢測Edge AI解決方案。
Microchip的邊緣方案展示之一是利用其mTouch演算法結合PIC16LF1559 MCU，可在有水的情況下檢測真實觸控(如圖3)。另一項解決方案則與Edge Impulse合作，使用FOMO機器學習(ML)架構在卡車裝卸區執行物件檢測。
圖3：Microchip在CES 2025的Edge AI解決方案。包括與Edge Impulse合作的AI卡車裝卸區(左)，以及使用mTouch演算法區分觸控與水的客製解決方案(右)。
此外，Nordic Semiconductor也與Edge Impulse合作，簡化AI在其硬體上的標記、訓練和部署過程。該公司還簡化了利用Nvidia TAO將成熟的AI模型適配到任何Edge Impulse支援的目標硬體流程。
編譯：Susan Hong，EDN Taiwan主編
(本文轉載自EDN Taiwan網站，原文連結：CES 2025：Edge AI硬體加速再掀熱潮)
