eIQ for TensorFlow Lite

eIQ for TensorFlow Lite | NXP 半导体

eIQ内置于MCUXpresso和Yocto开发环境中，为恩智浦的MCU和MPU平台提供TensorFlow Lite。TF Lite由谷歌开发，用来简化实施TensorFlow (TF)模型，它使用许多技术来实现低延迟，例如预融合激活和量化内核，以支持更小和(可能)更快的模型。此外，与TensorFlow一样，TF Lite利用Eigen库来加速矩阵和向量运算。

TF Lite定义了一种基于FlatBuffers的模型文件格式。相较于TF的协议缓冲区，FlatBuffers的内存占用量小了一个数量级，它可以更好地使用缓存线，从而加快恩智浦设备的执行速度。尽管TF Lite支持TF神经网络操作的一个子集，但它仍然支持广泛的操作(~50)，因此与CMSIS-NN相比可使用更高级的模型。它还支持递归神经网络(RNN)和更复杂的长短期记忆(LSTM)细胞。

软件详情

框图

eIQ for TensorFlow Lite

获取框图PDF

特征

可作为恩智浦MCUXpresso SDK (版本2.6.0)和Yocto BSP版本中的中间件
恩智浦eIQ适用于i.MX RT、i.MX 6、7和8以及Layerscape
比TensorFlow更快更小 - 可以在边缘进行推理，延迟更低，二进制尺寸更小
eIQ文档提供了有关使用TensorFlow到TensorFlow Lite转换脚本的详细信息
使用开源库加速矩阵和向量算法(Eigen和GEMMLOWP)
恩智浦优化实施GEMMLOWP可使用Cortex-M7 SIMD指令，与开箱即用相比，性能提升2-3倍

支持的器件

展开全部

处理器和微控制器
- ARM 处理器
  - i.MX 6系列应用处理器：多核，Arm^® Cortex^®-A7内核, Cortex-A9内核, Cortex-M4内核
    - i.MX6QP
    - i.MX6DL
    - i.MX6UL
    - i.MX6Q
    - i.MX6SLL
    - i.MX6SX
    - i.MX6ULL
    - i.MX6S
    - i.MX6D
    - i.MX6SL
    - i.MX6DP
  - i.MX 8系列应用处理器：多核Arm^® Cortex^®处理器
    - i.MX8M
    - i.MX8
    - i.MX8MMINI
    - i.MX8MNANO
    - i.MX8X
  - i.MX 7系列应用处理器：多核Arm^® Cortex^®-A7，Arm Cortex-M4
    - i.MX7ULP
    - i.MX7D
    - i.MX7S
- Arm 微控制器
  - i.MX RT跨界MCU
  - LPC5500系列：基于Arm^® Cortex^® -M33、面向大众市场的微控制器系列产品，采用40nm嵌入式闪存技术
    - LPC55S6x

下载

快速参考恩智浦软件类型.

2 下载

样品及快速入门软件
MCUXpresso SDK Builder

EXTERNAL版本 1Jan 28, 20211 KBMCUXPRESSO-SDK-EIQ

下载
软件开发资源
eIQ Machine Learning Software for i.MX Linux 4.14.y

EXTERNAL版本 0Jun 24, 20191 KBEIQ-MLSOFTWARE

下载

注意: 推荐在电脑端下载软件，体验更佳。

文档

快速参考恩智浦文档类别.

6 文件

紧凑列表

Enabling eIQ Core NPU Delegates for i.MX Android Applications[AN14411]

HTML | PDFSep 23, 2024版本更新 1.0
Enabling TensorFlow Operators in TensorFlow Lite Runtime for i.MX 8 Linux Platform[AN13699]

PDFAug 16, 2022版本更新 0
Anomaly Detection with eIQ using K-Means clustering in Tensor Flow Lite[AN12766]

PDFNov 12, 2020版本更新 1
i.MX 8M Plus NPU Warmup Time[AN12964]

PDFOct 7, 2020版本更新 1
Transfer Learning and the Importance of Datasets[AN12892]

PDFJun 17, 2020版本更新 0

eIQ Software Fact Sheet[EIQ-FS]

PDFJan 21, 2022版本更新 4

设计资源

硬件

快速参考恩智浦板类型.

1-5 / 6 硬件

完整解决方案
基于i.MX 8M Plus的AI机器人平台

AI-ROBOT-PLATFORM
评估板和开发板
i.MX 8M Mini应用处理器评估套件

8MMINILPD4-EVK
评估板和开发板
i.MX 8M Mini应用处理器评估套件
正常供应

8MNANOLPD4-EVK
其他可用硬件. 查看我们的精选合作伙伴解决方案.
评估板和开发板
i.MX 8M应用处理器评估套件
正常供应

MCIMX8M-EVK
评估板和开发板
i.MX 8M Nano应用处理器评估套件

8MNANOD4-EVK
评估板和开发板
i.MX 8M Plus应用处理器评估套件

8MPLUSLPD4-EVK

展开

1-5 / 14 硬件

嵌入式板解决方案
TQMa93xxLA

Embedded Cortex®-A55 module based on i.MX 93xx with Machine Learning Accelerator

By TQ-Systems GmbH Platinum 合作伙伴
嵌入式板解决方案
ORCA SOM - i.MX8M Plus

ORCA SOM is our solution for edge applications where the balance between the performances, the power consumption are important. Where Linux, RTOS and NPU are needed ORCA ...

By DAVE Embedded Systems Gold 合作伙伴
嵌入式板解决方案
Nitrogen93 SMARC

SMARC form factor SOM powered by i.MX 93, NXP PMIC PCA9451A, our Sona NX611 Wi-Fi 6/BT 5.3 using NXP’s IW611, LPDDR4 RAM, and eMMC. Software options: Yocto Linux/Buildroo...

By Ezurio Gold 合作伙伴
嵌入式板解决方案
Verdin iMX8M Plus

Verdin iMX8M Plus includes a Neural Network Processing Unit ideal for Machine Learning applications. Toradex provides integration with popular machine learning frameworks...

By Toradex® Platinum 合作伙伴
嵌入式板解决方案
AURA SOM - i.MX93x

AURA SOM is our solutions based on NXP i.MX93 and i.MX91. Our solutions is in particular focused on AMP approach with Linux and RTOS with indipendent power domains betwee...

By DAVE Embedded Systems Gold 合作伙伴
嵌入式板解决方案
Nitrogen91 SMARC

Nitrogen91 SMARC SOM is powered by NXP’s next generation i.MX 91 processor, NXP PMIC PCA9451A, and our Sona Wi-Fi 6/6E + Bluetooth 5.4.

By Ezurio Gold 合作伙伴
嵌入式板解决方案
Atlas Scalable Edge Inference Platform

Atlas is a scalable edge inference platform that uses i.MX 8M Plus + optional GPU to support up to 23.3 TOPS of inference performance. ML/vision software, support/solutio...

By Arcturus Gold 合作伙伴
嵌入式板解决方案
AXON-IMX93

NXP i.MX93 system-on-module Cortex-A55 AXON SOM with Yocto, Linux source code

By TechNexion Ltd Gold 合作伙伴
嵌入式板解决方案
SMARC iMX8M Plus

Toradex SMARC iMX8M Plus offers a cost-effective solution for running Linux with a modern graphical interface while delivering sufficient performance for typical industri...

By Toradex® Platinum 合作伙伴
嵌入式板解决方案
CuBox M

CuBox-M and its iMX8M Plus based SOM adds 2.3 TOPs of neural network acceleration inside. This makes it the perfect quick to market solution for your latest vision proces...

By SolidRun Ltd Gold 合作伙伴
嵌入式板解决方案
SP2-IMX8-SBC

ADLINK 2.5" SBC Motherboard Based on NXP® ARM Processor with 32GB eMMC and external Micro SD slot, LVDS/MIPI-DSI, HDMI graphic output, support 12-24V DC, and flexible I/O...

By ADLINK Technology, Inc. Gold 合作伙伴
嵌入式板解决方案
SP2-IMX8

ADLINK Open Frame Touch Panel PC Based on NXP i.MX8M Plus processor with PCAP touch screen (7"/10"), Supports Multi-OS: Linux, Windows, Android, 32GB eMMC and Micro SD sl...

By ADLINK Technology, Inc. Gold 合作伙伴
模块
OSM-IMX93

ADLINK OSM 1.1 OSM-IMX93 module, based on NXP i.MX93 with an integrated Arm Ethos-U65 microNPU, for compact edge solutions needing on-device AI processing at ultra-low po...

By ADLINK Technology, Inc. Gold 合作伙伴
模块
UCM-iMX95

UCM-iMX95 is an ultra miniature (28 x 40) i.MX 95 System-on-Module designed for integration into embedded applications.

By Compulab Gold 合作伙伴