在4060TI8g GPU上使用Yolov5

原创

已于 2025-09-10 11:15:07 修改 · 1.4k 阅读

17 ·

CC 4.0 BY-SA版权

文章标签：

#人工智能 #NPU #AI #yolov5

于 2025-01-22 17:42:37 首次发布

一、基本概念：

Yolov5：基于PyTorch框架的目标识别算法
PyTorch：FaceBook推出的深度学习框架
Torch：PyTorch的Lua版本
TorchVision：PyTorch的一个扩展库，专注于计算机视觉任务
CUDA：NVIDIA推出的一种并行计算平台和编程模型
cuDNN：一个GPU加速库，专门用于深度神经网络，基于CUDA
Msnhnet：一个轻量级的PyTorch推理框架，专注于Yolo模型，及Unet等其他神经网络结构
MCP/coze：app对接LLM的工具
vLLM/ollama：推理引擎
小模型：参数量小的模型，一般在端侧运行
小模型：参数量大的模型，一般在云侧运行
多模态：各种输入/输出，如机器人输入视频/激光/odom，输出电机控制信号
蒸馏：压缩模型规模
微调：用特定领域数据继续训练
RAG：检索增强生成

二、模型文件格式

TensorFlow：.pb
PyTorch：.pt/.pth
ONNX：.onnx
Keras：.h5
Scikit-learn：.pkl

三、软件安装

1、安装Anaconda3
下载路径：https://download.youkuaiyun.com/download/xiaolangyangyang/90373396
双击Anaconda3-2021.05-Windows-x86_64.exe一直默认下一步到最后，添加如下环境变量：

C:\ProgramData\anaconda3
C:\ProgramData\anaconda3\Scripts
C:\ProgramData\anaconda3\Library\mingw-w64\bin
C:\ProgramData\anaconda3\Library\bin

查看安装路径：

查看python版本是否是安装版本：

接下来命令行或者Anaconda3得GUI窗口建conda环境，命令行下输入：

conda create -n yolo5_py38 python=3.8 //创建名为yolo5_py38，python版本3.8的虚拟环境

2、安装cuda
下载路径：https://zhuanlan.zhihu.com/p/672526561
下载 cuda 12.1 :https://developer.nvidia.com/cuda-12-1-0-download-archive，选择系统下载安装即可，安装好了检查环境变量有没有更新上去（这里一般没问题）

3、安装torch和torchvision
阿里源手动下载地址：pytorch-wheels-cu121安装包下载_开源镜像站-阿里云
下载以下两个文件：
torch-2.3.0+cu121-cp38-cp38-win_amd64.whl
torchvision-0.18.0+cu121-cp38-cp38-win_amd64.whl

4、配置环境
yolov5源码下载路径：