eIQ for TensorFlow Lite

eIQ内置于MCUXpresso和Yocto开发环境中，为恩智浦的MCU和MPU平台提供TensorFlow Lite。TF Lite由谷歌开发，用来简化实施TensorFlow (TF)模型，它使用许多技术来实现低延迟，例如预融合激活和量化内核，以支持更小和(可能)更快的模型。此外，与TensorFlow一样，TF Lite利用Eigen库来加速矩阵和向量运算。

TF Lite定义了一种基于FlatBuffers的模型文件格式。相较于TF的协议缓冲区，FlatBuffers的内存占用量小了一个数量级，它可以更好地使用缓存线，从而加快恩智浦设备的执行速度。尽管TF Lite支持TF神经网络操作的一个子集，但它仍然支持广泛的操作(~50)，因此与CMSIS-NN相比可使用更高级的模型。它还支持递归神经网络(RNN)和更复杂的长短期记忆(LSTM)细胞。

软件详情

框图

eIQ for TensorFlow Lite

获取框图PDF

特征

可作为恩智浦MCUXpresso SDK (版本2.6.0)和Yocto BSP版本中的中间件
恩智浦eIQ适用于i.MX RT、i.MX 6、7和8以及Layerscape
比TensorFlow更快更小 - 可以在边缘进行推理，延迟更低，二进制尺寸更小
eIQ文档提供了有关使用TensorFlow到TensorFlow Lite转换脚本的详细信息
使用开源库加速矩阵和向量算法(Eigen和GEMMLOWP)
恩智浦优化实施GEMMLOWP可使用Cortex-M7 SIMD指令，与开箱即用相比，性能提升2-3倍

支持的器件

展开全部

处理器和微控制器
- ARM 处理器
  - i.MX 6系列应用处理器：多核，Arm^® Cortex^®-A7内核, Cortex-A9内核, Cortex-M4内核
    - i.MX6QP
    - i.MX6DL
    - i.MX6UL
    - i.MX6Q
    - i.MX6SLL
    - i.MX6SX
    - i.MX6ULL
    - i.MX6S
    - i.MX6D
    - i.MX6SL
    - i.MX6DP
  - i.MX 8系列应用处理器：多核Arm^® Cortex^®处理器
    - i.MX8M
    - i.MX8
    - i.MX8MMINI
    - i.MX8MNANO
    - i.MX8X
  - i.MX 7系列应用处理器：多核Arm^® Cortex^®-A7，Arm Cortex-M4
    - i.MX7ULP
    - i.MX7D
    - i.MX7S
- Arm 微控制器
  - i.MX RT跨界MCU
  - LPC5500系列：基于Arm^® Cortex^® -M33、面向大众市场的微控制器系列产品，采用40nm嵌入式闪存技术
    - LPC55S6x

下载

快速参考恩智浦软件类型.

2 下载

^{样品及快速入门软件}
MCUXpresso SDK Builder

EXTERNAL版本 1Jan 28, 2021 02:41:001 KBMCUXPRESSO-SDK-EIQ

下载
^{软件开发资源}
eIQ Machine Learning Software for i.MX Linux 4.14.y

EXTERNAL版本 0Jun 24, 2019 16:25:001 KBEIQ-MLSOFTWARE

下载

注意: 推荐在电脑端下载软件，体验更佳。

文档

快速参考恩智浦文档类别.

1-5 / 6 文件

^应用笔记
Enabling eIQ Core NPU Delegates for i.MX Android Applications

HTML | PDF版本 1.0Sep 23, 2024351.6 KBAN14411English
^应用笔记
Enabling TensorFlow Operators in TensorFlow Lite Runtime for i.MX 8 Linux Platform

PDF版本 0Aug 16, 2022217.0 KBAN13699English
^应用笔记
Anomaly Detection with eIQ using K-Means clustering in Tensor Flow Lite

PDF版本 1Nov 12, 2020906.9 KBAN12766English相关文件: AN12766SW
^应用笔记
i.MX 8M Plus NPU Warmup Time

PDF版本 1Oct 7, 2020239.7 KBAN12964English相关文件: AN12964SW
请登录
^应用笔记
Transfer Learning and the Importance of Datasets

PDF版本 0Jun 17, 2020731.0 KBAN12892English相关文件: AN12892SW
^简介
eIQ Software Fact Sheet

PDF版本 4Jan 21, 2022653.2 KBEIQ-FSEnglish, 日本語

展开

设计资源

硬件

快速参考恩智浦板类型.

1-5 / 6 硬件

^{完整解决方案}
基于i.MX 8M Plus的AI机器人平台

AI-ROBOT-PLATFORM
^{评估板和开发板}
i.MX 8M Mini应用处理器评估套件

8MMINILPD4-EVK
^{评估板和开发板}
Evaluation Kit for the i.MX 8M Mini Applications Processor

8MNANOLPD4-EVK
其他可用硬件. 查看我们的精选合作伙伴解决方案.
^{评估板和开发板}
i.MX 8M应用处理器评估套件

MCIMX8M-EVK
^{评估板和开发板}
i.MX 8M Nano应用处理器评估套件

8MNANOD4-EVK
^{评估板和开发板}
i.MX 8M Plus应用处理器评估套件

8MPLUSLPD4-EVK

展开

1-5 / 13 硬件

^{嵌入式板解决方案}
TQMa93xxLA

Embedded Cortex®-A55 module based on i.MX 93xx with Machine Learning Accelerator

By TQ-Systems GmbH Platinum 合作伙伴
^{嵌入式板解决方案}
ORCA SOM - i.MX8M Plus

ORCA SOM is our solution for edge applications where the balance between the performances, the power consumption are important. Where Linux, RTOS and NPU are needed ORCA ...

By DAVE Embedded Systems Gold 合作伙伴
^{嵌入式板解决方案}
Verdin iMX8M Plus

Verdin iMX8M Plus includes a Neural Network Processing Unit ideal for Machine Learning applications. Toradex provides integration with popular machine learning frameworks...

By Toradex® Platinum 合作伙伴
^{嵌入式板解决方案}
AURA SOM - i.MX93x

AURA SOM is our solutions based on NXP i.MX93 and i.MX91. Our solutions is in particular focused on AMP approach with Linux and RTOS with indipendent power domains betwee...

By DAVE Embedded Systems Gold 合作伙伴
^{嵌入式板解决方案}
Nitrogen91 SMARC新

Nitrogen91 SMARC SOM is powered by NXP’s next generation i.MX 91 processor, NXP PMIC PCA9451A, and our Sona Wi-Fi 6/6E + Bluetooth 5.4.

By Ezurio Gold 合作伙伴
^{嵌入式板解决方案}
Atlas Scalable Edge Inference Platform

Atlas is a scalable edge inference platform that uses i.MX 8M Plus + optional GPU to support up to 23.3 TOPS of inference performance. ML/vision software, support/solutio...

By Arcturus Gold 合作伙伴
^{嵌入式板解决方案}
AXON-IMX93

NXP i.MX93 system-on-module Cortex-A55 AXON SOM with Yocto, Linux source code

By TechNexion Ltd Gold 合作伙伴
^{嵌入式板解决方案}
CuBox M

CuBox-M and its iMX8M Plus based SOM adds 2.3 TOPs of neural network acceleration inside. This makes it the perfect quick to market solution for your latest vision proces...

By SolidRun Ltd Gold 合作伙伴
^{嵌入式板解决方案}
SP2-IMX8-SBC新

ADLINK 2.5" SBC Motherboard Based on NXP® ARM Processor with 32GB eMMC and external Micro SD slot, LVDS/MIPI-DSI, HDMI graphic output, support 12-24V DC, and flexible I/O...

By ADLINK Technology, Inc. Gold 合作伙伴
^{嵌入式板解决方案}
SP2-IMX8新

ADLINK Open Frame Touch Panel PC Based on NXP i.MX8M Plus processor with PCAP touch screen (7"/10"), Supports Multi-OS: Linux, Windows, Android, 32GB eMMC and Micro SD sl...

By ADLINK Technology, Inc. Gold 合作伙伴
^模块
OSM-IMX93

ADLINK OSM 1.1 OSM-IMX93 module, based on NXP i.MX93 with an integrated Arm Ethos-U65 microNPU, for compact edge solutions needing on-device AI processing at ultra-low po...

By ADLINK Technology, Inc. Gold 合作伙伴
^模块
LEC-IMX95

ADLINK SMARC 2.1 LEC-IMX95 module, based on NXP i.MX95 with an integrated VPU, ISP and 2 TOPS eIQ NPU, combines power-efficient high-performance compute, immersive Arm®...

By ADLINK Technology, Inc. Gold 合作伙伴
^模块
UCM-iMX95新

UCM-iMX95 is an ultra miniature (28 x 40) i.MX 95 System-on-Module designed for integration into embedded applications.

By CompuLab Gold 合作伙伴