全国集创赛经验分享-系统架构分析

下面是系统架构分析

工程总体架构

下图为基于百度PaddlePaddle系列框架与海云捷讯AIGO_C5MB开发板实现的系统工程总体框架。

图1. 系统总体架构

首先需要使用PaddleDetection目标检测和paddleslim模型压缩框架进行剪枝量化训练，导出优化后的静态图模型。

然后使用Paddle-Lite导出Paddle Model，Opt工具负责对计算图进行优化，期间包含对量化节点的处理，如对添加Dorefa 8 比特量化算法的支持。

导出的模型以子图接入的方式接入FPGA 后端，添加子图检测的PASS 检测调度到FPGA 执行的算子。在构建硬件图IR 的过程中，进行权重重排。

Paddle-Lite 在推理时采用ARM+FPGA 的混合调度策略，由FPGA 卷积和DW 卷积算子构成的子图通过FPGA 运行时接口调度到FPGA 执行，其他算子在ARM 执行。FPGA 运行时包括SDK 和Driver 两部分。SDK 负责进行输入和输出的重排以及把子图分发到Driver 执行。Driver 以双缓冲方式执行子图的算子，在执行当前算子期间进行下一层算子参数的拷贝，通过计算时间掩盖参数传输时间。

内容来源：知乎“北城以南single”，侵权删除。

【免责声明】：本站部分文章为转载或网友发布，目的在于传递和分享信息，并不代表本网赞同其观点和对其真实性负责；文章版权归原作者及原出处所有，如涉及作品内容、版权和其它问题，我们将根据著作权人的要求，第一时间更正或删除。