神經網絡都是在后端服務器上進行數據處理與識別,針對服務器壓力日益增加的問題,提出基于稀疏化神經網絡在微控制器芯片上實現數據處理與前端識別。微控制器芯片不依賴操作系統,Arm FuSa RTS保證了微控制器的高穩定性和低功耗。利用CMSIS-NN在微控制器芯片上搭建與服務器上相同的稀疏化卷積神經網絡(CNN)模型,然后把服務器上訓練的經驗值移植到微控制芯片上。經實驗對比在微控制器和服務器上稀疏化CNN的識別準確率,結果顯示準確率基本保持一致。因此在微控制芯片上搭建稀疏化神經網絡可有效解決網絡帶寬和服務器壓力過大等問題。

【文章頁數】：6 頁

【部分圖文】：

圖1M-P神經元數學模型

神經網絡最簡單的數學模型是1943年提出的McClloch-Pitts神經元模型，M-P神經元模型如圖1所示。由圖1可知，M-P神經元模型有m個輸入信號，x經過各自相應的權重Wm傳至神經元，經過求和后得到E=∑WixEi。將E與閾值T進行比較，當E>T時，信號通過激活函數被激活....

圖2正向傳播過程

y1和y2經過激活函數ReLU有：經過激活函數后分別得到輸出值out1和out2。經過上述過程，輸入圖像完成了前向傳播。但得到的輸出值out往往與期望值tar相差巨大，這時要對誤差進行反向傳播，更新權重值。

圖3基于微控制器Cortex-M的神經網絡

基于微控制器Cortex-M的神經網絡如圖3所示，首先在訓練機上利用Python基于TensorFlow搭建神經網絡模型，通過數據庫進行初步學習，根據識別效果調整網絡模型或參數，達到預期效果后固定其網絡模型及參數，在Cortex-M系列開發板上基于ARM的CMSIS-NN搭建與....

圖4稀疏化神經網絡流程圖

稀疏化神經網絡流程如圖4所示。首先對搭建的神經網絡進行訓練，根據利用降維矩陣DLm對已訓練好的網絡的每一層權值進行處理，連接較弱的權值將被丟棄，連接強的權值保留。根據神經元間的相關性系數和稀疏度計算降維矩陣[6]。當每一層Lm被稀疏化后，由網絡Nm-1結構和權值初始化新的網絡模型....

本文編號：3998853