DIGITIMES Research：邊緣運算興起　IC業者方案出籠　分散式訓練架構為深度學習新契機

DIGITIMES Research觀察2017年深度學習(Deep learning)用途處理器(Processor)、加速器(Accelerator)於終端裝置發展，為解決深度學習於雲端應用的隱私與機敏資料疑慮、降低企業為配合雲端調整內部IT架構所付出的成本，以及面臨國家及地方網路基礎建設不足或不均衡、頻寬限制與網路延遲等挑戰，相關業者尋求在終端裝置上突破限制，以發展如電腦視覺(Computer Vision；CV)、自駕車等智慧應用，使終端裝置邊緣運算(On-device edge computing)熱潮興起。

因功耗與效能考量，終端裝置上的深度學習應用以推論為主，亦即將訓練後的模型以晶片方式嵌入終端裝置，然Google提出聯合學習(Federated learning)的分散式資料訓練架構，使終端設備可望擺脫純執行深度學習推論任務的角色，在終端設備上進行小規模資料訓練，降低頻寬與雲端伺服器負擔，並保障使用者隱私與機敏資料，亦提升從訓練到推論循環改善的效率與速度，成邊緣運算推廣的一大助力。

在智慧型手機市場，人工智慧(AI)晶片整合進系統單晶片(System on Chip；SoC)成趨勢，儘管高通(Qualcomm)先推出神經網路處理引擎(Neural Process Engine；NPE)，以異構運算(Heterogeneous computing)方式達成智慧型手機上的AI任務，然繼華為(Huawei)、蘋果(Apple)推出整合AI晶片於應用處理器(Application Processor；AP)後，預估高通、聯發科(Mediatek)將快速跟進，推出整合AI晶片的AP。

新思科技(Synopsys)、CEVA、益華(Cadence)、芯原(Verisilicon)等IP業者皆推出基於數位訊號處理器(Digital Signal Processor；DSP)的嵌入式處理器方案，且已達16奈米(Nanometer；nm)製程，朝電腦視覺市場前進，然此市場不但有英特爾(Intel)購併Mobileye與Movidius橫跨車用與影像辨識，更有NVIDIA憑藉其通用圖形處理器(General-Purpose computing on Graphics Processing Units；GPGPU)已佔據部分市場，邊緣運算興起所引起的AI晶片市場競爭白熱化。