在英飞凌 ModusToolbox™ 环境中使用 Arm® Ethos™-U55 NPU 实现机器学习应用

1 10/2023 白皮书 在英飞凌 ModusToolbox™ 环境中使用 Arm® Ethos™-U55 NPU 实现机器学习应用 摘要 机器学习 (ML) 模型需要强大的计算资源来进行训练和推理，因此，它们通常在可以进行大算力数据处理的 PC 或云服务器上运行。然而，在计算机架构的革命性发展和软件工具的突破性进步的引领下，嵌入式系统 Al 和 ML 应用正在经历转型期。ML 应用和场景正迅速扩展到物联网和嵌入式系统领域。当视频和图像等数据利用深度学习 ML 模型时，这些应用需要高处理能力的运算单元和大量的内存。为了支持这些场景，有必要使用诸如 Arm® Ethos™-U55 等神经网络协处理器 (NPU) 来增强处理器的性能。 能耗效率和低成本是嵌入式 ML 应用的关键标准。除增强处理能力之外，还需要降低系统功耗和提供高效的软件开发环境。开发环境涵盖了用于模型开发、训练和部署的工具和优化器。 英飞凌的 PSoC™ Edge 平台及其 ModusToolbox™ 软件开发环境可以更好地利用平台硬件资源进行 CPU 密集型嵌入式 ML 推理。 2 10/2023 目录 摘要 ..........................................................................................................................................................................1 1 PSoC™ Edge MCU .......................................................................................................................................3 2 Ethos™ -U55 NPU .......................................................................................................................................4 2.1 使用 Ethos™-U55 NPU 的优点 ...........................................................................................................5 2.1.1 ML 性能提升 .............................................................................................................................................5 2.1.2 CPU 负荷率 ...............................................................................................................................................6 2.1.3 功耗 ..............................................................................................................................................................7 2.2 Ethos™-U55 NPU 加速流程 .................................................................................................................7 3 ModusToolbox™ ..........................................................................................................................................8 3.1 ModusToolbox™ ML ..............................................................................................................................9 3.2 ModusToolbox™ ML 软件架构 ........................................................................................................ 10 3.3 运行时软件流程 ........................................................................................................................................ 11 3.4 Cortex®-M55 CPU 与 Ethos™-U55 NPU 通信....................................................................... 12 3.5 工具 ............................................................................................................................................................... 13 3.5.1 ML 配置程序 .......................................................................................................................................... 13 3.5.2 ML CoreTools ...................................................................................................................................... 13 3.5.3 Vela 编译器 .........................................................