面向稀疏神经网络的软硬件协同加速方法研究
桑肖婷1
李环宇1
李春雷1
汤水利2
刘洲峰1
1.中原工学院电子信息学院 ,河南郑州 4500072.恒天重工股份有限公司非织造布工程事业部 ,河南郑州 450001
摘要：针对深度卷积神经网络在资源紧张、功耗敏感的边缘设备上部署难问题,基于现场可编程逻辑门阵列(Field-Programmable Gate Array,FPGA)提出了一种面向稀疏神经网络的软硬件协同加速方法.为减少模型参数对存储空间的占用,通过DropNet迭代剪枝和动态定点量化,对网络模型的参数量和数值精度进行了压缩处理.针对密集型计算的卷积操作,设计了矩阵分块和多位宽流水线并行策略,以充分挖掘并行计算潜力,提高数据复用率.采用二维池化分离策略,将池化过程分解为两个并行的一维池化操作,在规避大量冗余计算的同时显著减少了池化中间结果对寄存器的占用.在MNIST和Fashion MNIST两个数据集上进行的实验,证明了所提出方法的先进性.结果表明:在 100 MHz工作频率下,针对LeNet网络模型,所提出方法相较基于CPU的方法在单张图片测试上取得了约 35 倍的加速效果;针对SeNet网络模型,所提出方法相较基于CPU的方法在单张图片测试上取得了约 96倍的加速效果.
关键词：卷积神经网络FPGA剪枝定点量化硬件加速
分类号：TP391(计算技术、计算机技术)
论文发表日期：2023-06-25
在线出版日期：2025-08-15（本平台首次上网日期，不代表文献的发表时间）
页数：8( 27-34 )
英文信息