TinyML与Tensor Flow Lite的关系

最新推荐文章于 2025-11-11 15:41:41 发布
原创 最新推荐文章于 2025-11-11 15:41:41 发布 · 1.2k 阅读 · 7 ·
CC 4.0 BY-SA版权
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
文章标签：

#深度学习 #tensorflow

TinyML是基于TensorFlowLite的一个专题，专注于在低功耗微控制器上实现机器学习。它提供了简化版的API和库，如micro_mutable_op_resolver和micro_interpreter，以适应资源有限的硬件。TinyML的目标是让开发者能够在微型设备上构建和运行预测模型，而不进行训练。此外，它还包括低功耗调试模块micro_error_reporter，以减少能耗。 TinyML社区提供了丰富的开源项目和资源，加速在超低功耗设备上的深度学习应用开发。
部署运行你感兴趣的模型镜像

目录

发展历史

简介

Tensor Flow Lite for Microcontrollers

主要模块

发展历史

Tensor Flow Lite是针对移动设备以及可穿戴设备领域的深度学习框架，是基于Tensor Flow的，但是Tensor Flow Lite并非能够在一些微型的MCU出色的运行，以及由于它算法的原因并不能很好的处于低功耗模式运行，如果一些芯片只能运行在低功耗的情况下，那么Tensor Flow Lite就显得不是那么融洽了，所以诞生了一个主题：TinyML，全拼：Machine Learning with TensorFlow Lite on Arduino and Ultra-Low-Power Microcontrollers（基于Arduino和超低功耗微控制器的TensorFlow Lite机器学习），并且拥有自己的社区，这个主题的中心思想是不在MCU上进行任何深度学习算法，仅仅只用预测算法，也就是大家训练好模型之后在MCU上运行并预测模型，无法在MCU上对模型进行订正以及训练，并且教大家如何训练一些足够小且精确高的一些模型，它分离了Tensor Flow Lite的大部分功能使其变得尽量简单，这个主题的发起者是：Pete Warden & Daniel Situnayake ,并且TinyML书也是他俩写的。

简介

TinyML是基于Tensor Flow Lite的一个主题，宗旨是让用户能够使用Tensor Flow Lite快速搭建在低功耗、微小的硬件环境下进行深度学习运算，可以理解为它是基于Tensor Flow Lite的解决方案，它提供了非常多的基于Tensor Flow Lite的开源项目，让大家能够基于这些项目快速构建自己的深度学习框架。

为了方便快速上手，TinyML写了许多自己的功能API，这些API基于Tensor Flow Lite，它们位于Tensor Flow Lite源代码的micro目录下，可以通过加载这个目录下的头文件进行快速构建深度学习框架

Tensor Flow Lite for Microcontrollers

TinyML是基于Tensor Flow Lite的，它所有的源代码以及API模块都存在于：tensor flow/lite/micro目录下，它是Tensor Flow仓库的一部分，是以C++方式提供接口，它扩展了许多方便并快速开发的一些API，可以供我们更快的建立模型开发。

主要模块

模块名

all_ops_resolver提供解释器运行模型时的所有运算算法，每次针对运算会拉取所有算法，然后选择一个合适的算法做运算，会耗费大量内存
micro_mutable_op_resolver提供解释器运行模型时的所有运算算法，每次拉取一个算法做运算，并非最合适的算法，浪费内存较小
micro_error_reporter专门用于低功耗的芯片输出调试信息的模块，比Tensor Flow Lite原生的reporter功耗低很多
micro_interpreter包含专门在低功耗芯片的上处理和运行模型的代码

您可能感兴趣的与本文相关的镜像

TensorFlow-v2.15

TensorFlow-v2.15

TensorFlow

TensorFlow 是由Google Brain 团队开发的开源机器学习框架,广泛应用于深度学习研究和生产环境。 它提供了一个灵活的平台,用于构建和训练各种机器学习模型

【社区分享】从零开始学习 TinyML，建立 TensorFlow 深度学习模型（技术优化篇）
tensorflowforum的博客
12-09 1万+
本文来自社区投稿与征集，作者王玉成，ML&IoT Google Developers Expert，温州大学智能锁具研究院总工程师。 了解更多：https://blog.youkuaiyun.com/wfing 经过前面几章的讨论，我们了解了TinyML 的概念，完成了一个最简单的TinyML 的模型并且运行在微控制器上，得出最基本的结果。但是在实际的工程应用中，模型建立之后，也需要再进一步结合许多优化方面的技术，这就是我们接下来想要探讨的。 5. 优化 TinyML 这本书也详细的向我...
使用TensorFlow Lite Micro流程记录(带源码)
ZhaoDongyu_AK47的博客
05-23 5518
记录如何使用tensorflow lite micro，以及期间解决的问题
32、基于Edge Impulse的TinyML开发实践
snow3的博客
10-06 95
本文详细介绍了基于Edge Impulse平台的TinyML开发实践，涵盖项目文件结构、核心类AppSpeech的设计与实现、应用集成与测试流程，并系统梳理了TinyML开发的完整生命周期，包括项目需求分析、数据收集、预处理、模型设计与训练、迭代优化及版本控制。通过ESP32-S3平台上的语音识别实例，展示了从模型部署到硬件响应的全流程，为嵌入式机器学习应用开发提供了实用指南。
嵌入式与AI（TinyML）：开启边缘智能新时代
最新发布
大雨的博客
11-11 892
嵌入式与 AI（TinyML）的融合，是科技发展进程中的一次重大飞跃，为众多领域带来了前所未有的变革与机遇。通过将机器学习模型部署在资源受限的嵌入式设备上，TinyML 实现了本地化的智能决策和数据处理，有效解决了传统云端 AI 面临的延迟高、带宽压力大以及隐私风险等问题。
智慧灯杆系统：TensorFlow-TinyML实现多传感器数据融合推理.pdf
01-01
该文档【智慧灯杆系统：TensorFlow_TinyML实现多传感器数据融合推理】共计 46 页，文档支持目录章节跳转同时还支持阅读器左侧大纲显示和章节快速定位，文档内容完整、条理清晰。文档内所有文字、图表、目录等元素均显示正常，无任何异常情况，敬请您放心查阅与使用。文档仅供学习参考，请勿用作商业用途。在机器学习的广阔天地里，TensorFlow宛如一位默默耕耘的实干家。它不像某些新技术那样大张旗鼓，但却以稳健和强大著称。作为谷歌开源的深度学习框架，TensorFlow拥有丰富的工具和资源。它支持多种深度学习模型，从简单的神经网络到复杂的循环神经网络，都能轻松构建。同时，它具备良好的可扩展性，能在不同的硬件平台上高效运行。对于科研人员，它提供了精准的实验环境；对于企业开发者，能助力打造实用的智能应用。TensorFlow低调却不失实力，是深度学习道路上值得信赖的伙伴。
tinyML基TensorFlow Lite在Arduino和超低功耗微控制器上部署模型
qq_43585604的博客
08-03 2923
tinyML基TensorFlow Lite在Arduino和超低功耗微控制器上部署模型 链接：https://pan.baidu.com/s/1Fqe4jf7j-Y0z91j7GoUJfw 提取码：1234
O‘REILLY TinyML 基于TensorFlow Lite在Arduino和超低功耗微控制器上部署机器学习
zzc2294779723的博客
02-04 675
机器学习教材课本算法电子版资料，PDF：中文版、英文版都有。在Arduino和超低功耗微控制器上部署机器学习。O'REILLY TinyML 基于。
【社区分享】从零开始学习 TinyML，建立 TensorFlow 深度学习模型（模型应用篇）
tensorflowforum的博客
12-07 4848
本文来自社区投稿与征集，作者王玉成，ML&IoT Google Developers Expert，温州大学智能锁具研究院总工程师。了解更多：https://blog.youkuaiyun.com/wfing 我们在上周的社区分享栏目中介绍了从零开始学习 TinyML（一），本周我们将继续学习。 Hello World — 梦开始的地方(中) 在前面的准备工作中，我们完成了模型训练，并且将模型的二进制格式转化成为 C++ 可以识别的数组。但是，这仅仅是基于微控制器项目前面的一小步。后续还...
TinyML与RTOS集成实践：多任务环境下AI模块稳定运行的6大保障措施
在资源极度受限的嵌入式设备上实现人工智能推理，TinyML 与实时操作系统（RTOS）的深度融合面临多重系统级挑战。首要问题在于**实时性保障与计算负载的矛盾**：AI 推理任务通常具有较高的 CPU 和内存需求，而 RTOS ...
轻量级学生网络设计原则：MobileNet、TinyML与蒸馏协同优化的黄金法则
[轻量级学生网络设计原则：MobileNet、TinyML与蒸馏协同优化的黄金法则](https://static.wixstatic.com/media/0a4c57_f9c1a04027234cd7a0a4a4018eb1c070~mv2.jpg/v1/fill/w_980,h_551,al_c,q_85,usm_0.66_1.00_0.01,...
TensorFlow Lite Micro实战：将TinyML模型移植到ESP32的全流程详解（附性能优化技巧）
![TensorFlow Lite Micro实战：将TinyML模型移植到... TensorFlow Lite Micro与TinyML技术概述 TinyML（Tiny Machine Learning）作为边缘计算的重要分支，正推动着超低功耗设备上的智能感知革命。TensorFlow Lite Mi
从Python到C++：ESP32上TinyML模型转换与优化的7个关键技巧
TinyML与ESP32的融合背景 随着边缘计算的快速发展，TinyML（微型机器学习）应运而生，旨在将轻量级AI模型部署到资源极度受限的微控制器单元（MCU）上。ESP32凭借其低成本、低功耗和集成Wi-Fi/蓝牙通信能力，成为...
C语言与嵌入式AI边缘计算：TinyML、TensorFlow Lite在嵌入式设备上的应用（二）
weixin_56154577的博客
04-21 4990
TinyML是一种专注于在极低功耗、资源极其有限的微控制器（MCU）级别硬件上实现机器学习（ML）模型高效运行的技术领域。其核心目标在于将先进的机器学习算法和模型移植到体积小巧、能耗极低的嵌入式设备中，使这些设备具备边缘智能，能够在没有外部服务器支持的情况下进行实时数据处理和决策制定。
tinyml如何使用TensorFlow Lite构建智能物联网设备
weixin_26750481的博客
09-02 830
If you are new to machine learning, it is a technique of using algorithms to analyze massive amounts of data to draw conclusions. Deep learning is a branch of machine learning that uses an algorithm c...
tinyml arduino tensorflow 姿势识别
qq_35174914的博客
05-15 891
TensorFlow Lite for MicroControllers 姿态识别 从传感器数据收集到国内模型训练到模型推理一条龙服务。 视频地址：https://www.bilibili.com/video/BV1Xg4y1q7EF?from=search&seid=17532258374212260354 （操作手册）线上模型训练地址：https://blackwalnut.zucc.edu.cn/codelabs/detail?id=5eb6c12bd23c66002373994f...
TinyML
fanged的专栏
05-05 654
（TODO）
TensorFlow Lite深度学习Arduino微控制器
跨学科知识视角展现
11-15 1233
关联知识 Python Arduino 机器学习 TensorFlow 介绍 应用架构 模型介绍 动作部件 进行测试 基础流程 图像提供器 检测响应器 检测人 部署到微型控制器 Arduino SparkFun Edge …更多 详情参阅http://viadean.com/arduino_tinyml_tensorflow_detection.html ...
嵌入式部署机器学习模型---TinyML
探索人工智能领域
09-01 1937
TinyML 是机器学习和嵌入式系统的一个研究领域，它探索可以在微控制器等小型低功耗设备上运行的模型类型。标准消费类 CPU 的功耗在 65 瓦到 85 瓦之间，标准消费类 GPU 的功耗在 200 瓦到 500 瓦之间，而典型的微控制器的功耗约为毫瓦或微瓦。这种低功耗使得TinyML 设备可以在不插电的情况下使用电池运行数周、数月，在某些情况下甚至数年，同时在边缘运行 ML 应用程序。在一天中，您使用这些模型的次数比您意识到的要多。当您说“Alexa”或“好的，Google”时，您希望设备立即响应您。
【机器学习】TinyML的介绍以及在运动健康领域的应用
热门推荐
科技改变人类，技术成就未来
03-20 1万+
TinyML的介绍以及在运动健康领域的应用。TinyML（`Machine Learning with TensorFlow Lite on Arduino and Ultra-Low-Power Microcontrollers（基于Arduino和超低功耗微控制器的TensorFlow Lite机器学习）`）是指在极低功耗的微控制器和其他小型计算设备上运行的机器学习应用。这通常涉及到将已经训练好的机器学习模型压缩和优化，以使其适应更小的内存和处理能力。TinyML 的目标是在这些设备上实现AI功能，同时
tinyml + TensorFlow Lite
04-24
### TinyML 与 TensorFlow Lite 的结合使用 TinyML 是一种专注于资源受限设备上的机器学习技术，而 TensorFlow Lite 则是一个轻量级框架，专为嵌入式和物联网 (IoT) 设备设计。两者结合可以实现高效的边缘计算应用。 以下是关于如何将 TinyML 和 TensorFlow Lite 结合使用的教程概述以及一些示例代码： #### 使用 TensorFlow Lite 进行模型转换 为了在微控制器上部署模型，通常需要先训练一个标准的 TensorFlow 模型并将其转换为 `.tflite` 文件格式。此过程可以通过 `tf.lite.TFLiteConverter` 实现[^2]。 ```python import tensorflow as tf # 加载已保存的 Keras 模型 model = tf.keras.models.load_model('path_to_my_model.h5') # 创建 TFLite 转换器实例 converter = tf.lite.TFLiteConverter.from_keras_model(model) # 启用优化选项以减小文件大小 converter.optimizations = [tf.lite.Optimize.DEFAULT] # 将浮点运算量化到整数精度（可选） converter.target_spec.supported_ops = [tf.lite.OpsSet.TFLITE_BUILTINS_INT8] converter.inference_input_type = tf.int8 converter.inference_output_type = tf.int8 # 执行转换并将结果写入 .tflite 文件 tflite_model = converter.convert() with open('model.tflite', 'wb') as f: f.write(tflite_model) ``` #### 部署至微控制器 一旦获得了 `.tflite` 文件，则需进一步处理以便其能在目标硬件平台上运行。这一步骤可能涉及将二进制数据嵌入 C/C++ 源码中，并通过特定 SDK 编译链接成固件镜像[^3]。 下面展示了一个简单的 Arduino 环境下的推断调用片段： ```cpp #include "tensorflow/lite/micro/all_ops_resolver.h" #include "tensorflow/lite/micro/micro_interpreter.h" // 假设 model_data 已经被加载到了闪存区域 const tflite::Model* model = ::tflite::GetModel(model_data); if (!model->initialized()) { TF_LITE_REPORT_ERROR(error_reporter, "Failed to initialize the model"); } tflite::AllOpsResolver resolver; static tflite::MicroInterpreter interpreter( model, resolver, tensor_arena, kTensorArenaSize, error_reporter); TfLiteStatus allocate_status = interpreter.AllocateTensors(); if (allocate_status != kTfLiteOk) { TF_LITE_REPORT_ERROR(error_reporter, "Allocate tensors failed."); } ``` 以上展示了从模型创建到实际推理的基本流程。值得注意的是，在开发过程中还需要考虑内存管理、输入预处理及输出后处理等问题[^4]。
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
红包 添加红包
表情包 插入表情
表情包 代码片
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

17岁boy想当攻城狮

感谢打赏

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值