基于数据量化与硬件加速的轻量级边缘智能系统

Song Guo (Inventor), Qihua Zhou (Inventor), Xin Xie (Inventor)

Research output: Patents, agreements, assignments and companiesPatents granted

Abstract

本发明公开了一种训练基于数据量化与硬件加速的模型的方法及边缘智能系统,通过在模型训练的前向传播阶段将边缘智能模型的处理数据转换为低比特定点数,从而使得边缘智能模型的计算成本有效降低,并采用误差补偿机制保障最终模型的质量和推理结果的准确性。在模型训练的后向传播阶段采用梯度截断机制,保障模型更新过程的平稳性。解决了现有技术中边缘智能设备端的模型在训练与推理过程中的计算与存储开销较大,且模型的预测准确性较低,难以胜任高动态的实时性任务的问题
Original languageChinese (Simplified)
Patent numberZL202110211440.1
Filing date25/02/21
Publication statusPublished - 2024

Cite this