- 博客(3)
- 收藏
- 关注
原创 llama.cpp本地部署qwen2量化后的gguf模型
编译完成后会在llama.cpp\build\bin\Release下生成llama-cli.exe。祝大家成功复现,如果没有GP的话,cpu或者AMD的相关gpu也是可以的,详细可以查看llama.cpp官网。注:windows上编译教程(打开工程文件后执行下列操作)
2024-08-07 11:00:41
820
原创 fastapi封装yolov5自训练模型
简介:本次用到的模型为基于yolov5自训练的口罩检测识别模型,测试工具是postman,简单在次做一个知识分享,也是给自己留一份记忆,比较适合刚入门人工智能行业的小白,如有问题请在下方留言,多多探讨,如有错误,请指正 抱拳抱拳抱拳。3、找到yolov5源码中的detect.py文件,然后修改其中的如图所示: 在run方法最后新增代码,返回推理完成后图片的路径。6、打开postman工具,配置参数,根据代码中的信息,填写对应参数(source对应的是测试图片的路径)后端将会显示200 ok表示响应成功。
2024-03-26 16:54:54
1012
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人