
国产AI芯片
文章平均质量分 90
国产AI芯片环境部署
要养家的程序猿
士不可以不弘毅 任重而道远
展开
-
Qwen2-VL华为卡300i duo环境搭建&推理测试
多模态华为卡的适配倒是一直没有出过相关的博客。刚好遇到需要Qwen2-VL的配置,安装。通过watch -n 1 npu-smi info命令查看当前的npu程序,看看是否加载顺利。前面也写过华为300i duo DeepSeek的环境搭建&推理测试,感兴趣的同事请移步({"type": "text", "text": "介绍图中的内容."}3、修改ip和端口号,检查httpsEnabled是否是false。2、用curl命令本地访问大模型,看是否有返回结果。4、配置大模型路径、name和分配对应的芯片。原创 2025-03-17 11:56:57 · 862 阅读 · 0 评论 -
DeepSeek-R1华为卡300i Duo环境搭建&推理测试
在N卡上的操作,应该已经展示的比较全面了。今年过年期间,华为很快就宣布适配DeepSeek-R1,刚好,手上有几张华为300i Duo卡,有资源部署。1、修改模型里的config.json比如模型路径为:/home/aicc/modelscope/deepseek/distill-32b。通过watch -n 1 npu-smi info命令查看当前的npu程序,看看是否加载顺利。前文已经写了不少DeepSeek相关的文章,感兴趣的童鞋可以移步(4、配置大模型路径、name和分配对应的芯片。原创 2025-03-10 11:54:09 · 1285 阅读 · 0 评论 -
瑞芯微电子RV1126芯片环境搭建&SSD模型转换指南
回到SSD-mobilenet_tf的训练代码,在ssd_meta_arch.py中添加如下代码,在research目录下执行python setup.py install,运行model_main.py(即训练,训练时有生成),即可生成保存prior_boxes的文件box_priors.txt。在索书号场景下,有1917个prior_box。故翻了翻陈年的笔记,找到当年使用瑞芯微电子出的一款芯片RV1126的使用笔记,当时拿到的是一款基于RV1126的IP摄像头,在此整理记录下。OK,让我们开始吧。原创 2024-02-05 09:31:20 · 2411 阅读 · 1 评论 -
华为Atlas 200DK环境搭建&推理测试
网线连接用于Atlas 200 DK共享PC机网络,Atlas 200 DK eth0的网关地址需要与PC机中与Atlas 200 DK相连的NIC网卡的IP地址保持一致,将PC机上网络共享给连接Atlas 200 DK的NIC网卡,则Atlas 200 DK即可接入互联网。Atlas 200 DK中eth0网卡的网关与eth0 IP地址在同一网段即可,例如Atlas 200 DK的eth0的默认IP地址为“192.168.0.2”,则此处可以配置eth0的网关为“192.168.0.101”。原创 2024-01-29 09:56:06 · 2764 阅读 · 0 评论 -
华为Atlas300ipro/Atlas300t芯片环境搭建
4、查看芯片固件版本号 /usr/local/Ascend/driver/tools/upgrade-tool --device_index -1 --component -1 --version。(2)启动 docker run --rm -it -v /work/zzq:/workspace vistart/cuda:11.1-ubuntu18.04 bash。(3)安装MindSpore2.0 pip install mindspore-cuda11-dev -i。原创 2024-01-03 15:00:17 · 4878 阅读 · 2 评论 -
摩尔线程S2000芯片环境配置
1、安装驱动程序 书接上文,这边再来一个国产AI芯片的环境配置,OK,让我们开始吧。3、系统主板BIOS开启Above4G及Resize BAR功能。一、安装系统Ubuntu20.04.1。1、安装docker 20.10.12。2、整理数据集(与yolov5一致)3、安装container工具。1、进入推理docker环境。修改detect.py文件。3、验证驱动是否安装成功。1、USB光盘刻录系统。1、下载docker。原创 2023-12-28 15:19:58 · 1369 阅读 · 2 评论 -
比特大陆/算能科技BM1684芯片环境配置
国产AI芯片一直是备受大家关注的一个方面,刚好工作中使用过,在此,要做一个简单的总结和汇总,OK,让我们开始吧。将下载的文件models_VGGNet_VOC0712_SSD_300x300.tar.gz放到examples/SSD_object/model目录下。以上步骤正确执行后,会在out目录下生成fp32_ssd300.bmodel 、int8_ssd300.bmodel文件。(3)fp32模型转换完成之后,接着执行如下指令生成int8 bmodel。2、生成fp32 bmodel。原创 2023-12-25 09:16:25 · 1859 阅读 · 0 评论