人工智能 (AI) 滲透率的深化，促使＂邊緣＂(Edge) 設備一躍成為嵌入式計算的主戰場，就連云端服務供貨商 (CSP) 亦積極將戰線延伸至地面端。身為全球前三大 AI 芯片供貨商之一的恩智浦半導體 (NXP)，對產業趨勢有深刻觀察：AI 的得勢，已讓物聯網 (IoT) 生態系統發生顛覆性變化——數據處理從互連系統中心轉移到邊緣。邊緣處理已將對于計算應用程序、數據和服務的控制，從某些中心節點轉移到因特網的外圍；這是 IoT 設備與實體世界接觸之處，即數據經由視覺／語音／環境等各式傳感器的入口。
邊緣推論，處理架構和硬件皆需優化
恩智浦表示，在邊緣處理這些數據，可大幅減少待轉移的數據量，進而提高隱私性、縮短延遲并提升服務質量；邊緣處理使用分布式資源，既脫離了中央核心的依賴，亦消除了主要瓶頸與潛在的單點故障風險。某些應用可能無法持續聯機到網絡，例如：自動駕駛車、植入式醫療器材、傳感器極為分散的場域，以及各式各樣的移動設備；在此類嚴峻環境中使用 AI，必須配備敏捷的應用程序來持續學習，并將結果快速套用到新數據上 (推論)——擷取較小的真實世界數據區塊，然后根據程序已經完成的訓練，來處理這些資料。
恩智浦表示，在邊緣處理這些數據，可大幅減少待轉移的數據量，進而提高隱私性、縮短延遲并提升服務質量；邊緣處理使用分布式資源，既脫離了中央核心的依賴，亦消除了主要瓶頸與潛在的單點故障風險。某些應用可能無法持續聯機到網絡，例如：自動駕駛車、植入式醫療器材、傳感器極為分散的場域，以及各式各樣的移動設備；在此類嚴峻環境中使用 AI，必須配備敏捷的應用程序來持續學習，并將結果快速套用到新數據上 (推論)——擷取較小的真實世界數據區塊，然后根據程序已經完成的訓練，來處理這些資料。
圖：自動駕駛車是邊緣 AI 的明星應用
資料來源：恩智浦提供
他們主張，科技的產生來自于市場需求的推動；在嵌入式計算的世界里，微控制器 (MCU)、微處理器 (MPU)、現場可編程邏輯門陣列 (FPGA) 和專用芯片 (ASIC) 并非存在競合關系，而是通過應用場景決定采用何種集成電路 (IC)。為了在邊緣環境進行推論，處理架構和硬件都需經過優化，并符合對于處理能力、節能、效率、安全性和聯機能力的特定要求。藉由開發先進的 IC 產品組合，恩智浦在邊緣的機器學習 (ML) 頭角崢嶸，尤其是在推論任務方面；邊緣 AI 應用的設計目標是在系統成本與最終用戶體驗之間找到平衡。
例如，采用 ML 技術的微波 AI 烤箱，在 1、2 秒內辨識出食物即可；但辨識停止標志、行人穿越道，或偵測車輛駕駛昏昏欲睡時眼睛即將閉起等情境，需要更快的處理速度。汽車和工業應用著重以最佳架構達成性能與功率效率，以因應今后所遇到的聯機能力、資安和安全性挑戰。提供駕駛輔助與替代駕駛人員功能的汽車系統，是 AI 部署的主場；S32 系列 IC 為傳感器信號處理的推論提供專門領域的解決方案，例如，雷達、光學傳感器以及動力傳動系統、車輛動力系統及車輛網絡聯機能力解決方案。
可擴充的處理器＆軟件支持是關鍵
關于定點 vs. 浮點演算的適用性，恩智浦說明，定點主要體現在低功耗方面，例如，處理器硬件的選擇或處理器擅長關閉未使用的功能單元時。這是因為對于給定的技術和操作問題率，定點單元通常比浮點更小。這意謂：定點單元的晶體管更少、導線更短、電容須克服每個媒介訪問控制 (MAC)。然而，現行許多服務器、個人電腦和移動設備的通用處理器，具有比整數乘法器更多、更快的浮點計算單元 (FPU)——尤其是單精度 FPU，且大部分系統功率非取自 FPU，典型數字信號處理器 (DSP) 若使用＂定點＂計算，就純性能來說并不討好、甚至可能是缺點。
關于定點 vs. 浮點演算的適用性，恩智浦說明，定點主要體現在低功耗方面，例如，處理器硬件的選擇或處理器擅長關閉未使用的功能單元時。這是因為對于給定的技術和操作問題率，定點單元通常比浮點更小。這意謂：定點單元的晶體管更少、導線更短、電容須克服每個媒介訪問控制 (MAC)。然而，現行許多服務器、個人電腦和移動設備的通用處理器，具有比整數乘法器更多、更快的浮點計算單元 (FPU)——尤其是單精度 FPU，且大部分系統功率非取自 FPU，典型數字信號處理器 (DSP) 若使用＂定點＂計算，就純性能來說并不討好、甚至可能是缺點。
現階段，定點多集中在按鈕大小的微型嵌入式產品，且要考慮內存和處理器緩存占用情況，巧妙地使用較小的數據類型 (short int 和 float) 以適應高速緩存下、大型計算可能會抵消任何純 FPU 帶寬的優勢。恩智浦認為，企業若要加強其 AI 應用產品組合，可擴充的處理器和軟件支持是關鍵，因為這些可讓開發人員針對廣泛的特定 AI 應用。恩智浦自評競爭力在于：產品組合幾乎涵蓋了現代 AI 應用中所使用的完整 MCU 和應用處理器產品組合，無論何種應用情境皆能找到合適的解決方案快速開發。
表：恩智浦 MCU 及 AP 產品組合
|
產品家族 |
應用 |
|
i.MX 8M 系列 |
適用于高端音頻、語音和視頻、語音控制、語音輔助。 |
|
i.MX 8X 系列 |
通過安全驗證并具高效能，適合汽車、工業和消費類應用。 |
|
i.MX 8 系列 |
適用于高端繪圖、成像與效能，適合汽車、工業和消費類應用。 |
|
Crossover i.MX RT |
適用于音頻子系統、消費者與醫療照護、住宅與建物自動化、工業計算、馬達控制與耗電應用。 |
|
i.MX 6、7 & 8 |
適用于消費者市場和智能家庭、物聯網云端整合。 |
|
Kinetis 與 LPC MCU (采用低功率Arm Cortex) |
核心將優異的性能效率、內存擴充性與整合式安全功能合并在一起。對稱密碼學所使用的芯片內建硬件加速可降低 CPU 負載，簡化實作，減少軟件開銷并提高系統執行效率。 |
|
Layerscape 產品 |
QorIQ 通信處理器產品組合提供無與倫比的深度與廣度。采用 Arm 核心技術建置的新一代 QorIQ Layerscape 系列處理器加入陣容后，此產品組合提供尺寸規格最小的高性能處理器，從功率受限的網絡和工業應用，乃至需要高級數據路徑和網絡周邊接口的嵌入式系統，皆可適用。 |
|
S32 MCU 和 MPU |
適用于汽車和工業，是 AI 部署的主要領域。S32 系列 IC 為傳感器信號處理的推論提供特有解決方案。 |
資料來源：恩智浦提供；筆者整理
其中，Kinetis 與 LPC MCU (采用低功率 Arm Cortex) 主推將優異的性能效率、內存擴充性與整合式安全功能合并在一起，對稱密碼學所使用的芯片內建硬件加速可降低中央處理器 (CPU) 負載、簡化實作，減少軟件開銷并提高系統執行效率。恩智浦與 Microsoft Azure、AWS、Google 等 CSP 皆有合作，協助 OEM 業者建立自己的邊緣計算產品，強調自家軟、硬件皆具備可擴充性及安全性，提供類似服務器的環境、安全認證和記錄、設備監控，以及安全容器和應用程序部署，期使邊緣計算方案可如云端計算一樣普及廣泛。
