Audiation88的博客

该模型用于解决数学问题，7B参数与Float16的前提下，测试官方案例占用显存容量在9.5G至10.2G的情况。使用GPU加速回答时间基本上控制在10-30秒附近。

给我个人的感觉是秒杀了ChatGLM-6B，显存占用、运行效率、部署复杂性都被完爆。

gitee地址：https://gitee.com/monkeycc/yolov5?科学上网可以使用clash打开局域网模式，会开放端口，将ubuntu的proxy中输入ip加端口可以直接科学上网。github地址：https://github.com/ultralytics/yolov5。推理性能：每张1200ms~1800ms（大部分在1200ms至1400ms之间）该设备没有NPU，故没有加速的情况，推理最终结果为一至三秒一张图。安装指令与Windows环境中基本相同。目前使用的是这个模型。

针对于Windows环境中Anaconda3新建虚拟环境以及pip安装的路径都不在对应目录中的暂时性问题的解决方法。D:\anaconda3\envs\yolov5\Lib\site.py之中可以找到该内容，并可以进行修改。envs需要取消只读并赋予User全部权限，之后默认选择安装在D盘。以上地址为参考用，可以修改的。

因为现在通过pip源默认安装软件为最新版本，但是却不兼容旧环境。经查询支持Python3.8的Tensorflow目前只看到2.6.0和2.9.0两个版本带AVX和AVX2指令集加速，具体wheel文件请移步至。进行对应环境软件与当前机器python版本和系统版本进行对比，选出合适的版本进行安装。(这个思路基本上适用于所有的环境搭建)采用"pip install xxx==x.xx.x"的形式定义到具体版本进行安装。寻找 CPU+GPU，且带avx2字样的文件目录，pyxx为版本。

下载地址：https://www.jetbrains.com/pycharm/download/download-thanks.html?下载地址：https://repo.anaconda.com/archive/Anaconda3-2023.07-2-Windows-x86_64.exe。gitee地址：https://gitee.com/monkeycc/yolov5?在linux和windows中都表示为上一个目录，玛德，最后发现是路径的问题。Q键上面的数字1是第一个的快捷键，依此类推。