Tiny YOLO v3 在 Google Edge TPU 上的部署指南

Tiny YOLO v3 在 Google Edge TPU 上的部署指南

edge-tpu-tiny-yolo Run Tiny YOLO-v3 on Google's Edge TPU USB Accelerator. 项目地址: https://gitcode.com/gh_mirrors/ed/edge-tpu-tiny-yolo

1. 项目基础介绍

本项目是基于 Python 语言的开源项目，旨在利用 Google Edge TPU USB 加速模块运行 Tiny YOLO v3 模型。Tiny YOLO v3 是一种流行的目标检测算法，适用于边缘设备上的实时检测。该项目包含了将 Darknet 模型转换为 TensorFlow Lite 模型，并进行量化以便在 Edge TPU 上运行的所有必要步骤。

2. 项目使用的关键技术和框架

• Darknet: 用于训练 YOLO 模型的原始框架。
• Keras: 转换 Darknet 模型到 Keras 格式。
• TensorFlow Lite: 用于将 Keras 模型转换为可以在移动和边缘设备上运行的格式。
• Google Edge TPU: 一种专为机器学习推理设计的硬件加速模块。

3. 安装和配置准备工作

在开始之前，请确保您的系统满足以下要求：

• 操作系统：Ubuntu 18.04 或更高版本。
• Python：安装 Python 3.5 或更高版本。
• TensorFlow：安装 TensorFlow 1.15.0 用于推理，安装 TensorFlow 2.0 夜版用于模型转换。
• anaconda（推荐）：用于创建隔离的环境，以避免版本冲突。

详细安装步骤

步骤 1：设置 Python 环境

打开终端，创建一个新的 conda 环境：

conda create -n tiny_yolo_env python=3.5

激活环境：

conda activate tiny_yolo_env

安装 TensorFlow 1.15.0：

pip install tensorflow==1.15.0

安装 TensorFlow 2.0 夜版（用于模型转换）：

pip install tf-nightly

步骤 2：安装 Edge TPU 相关工具

安装 Edge TPU 编译器：

pip install --extra-index-url https://storage.googleapis.com/edgetpu-repo/google-coral/index.html edgetpu_compiler

步骤 3：克隆项目仓库

在合适的目录下，使用以下命令克隆仓库：

git clone https://github.com/guichristmann/edge-tpu-tiny-yolo.git
cd edge-tpu-tiny-yolo

步骤 4：转换 Darknet 模型到 Keras

首先，你需要一个 Darknet 模型文件（.weights）和一个对应的配置文件（.cfg）。使用以下命令进行转换：

python convert.py path/to/tiny-yolo-cfg.cfg path/to/darknet-weights.weights path/to/keras-filename.h5

步骤 5：将 Keras 模型转换为 TensorFlow Lite 模型

使用以下命令进行转换：

python keras_to_tflite_quant.py keras-model.h5 output-filename.tflite

步骤 6：编译 TensorFlow Lite 模型以供 Edge TPU 使用

使用 Edge TPU 编译器：

edgetpu_compiler output-filename.tflite

编译成功后，你将得到一个适用于 Edge TPU 的模型文件（output-filename_edgetpu.tflite）。

步骤 7：运行推理

使用以下命令运行推理：

python inference.py --model output-filename_edgetpu.tflite --image path/to/image.jpg

或者使用摄像头：

python inference.py --model output-filename_edgetpu.tflite --cam

完成以上步骤后，你应该能够成功在 Google Edge TPU 上运行 Tiny YOLO v3 模型了。

edge-tpu-tiny-yolo Run Tiny YOLO-v3 on Google's Edge TPU USB Accelerator. 项目地址: https://gitcode.com/gh_mirrors/ed/edge-tpu-tiny-yolo