
昇腾AI
文章平均质量分 72
昇腾,向上的力量
大海里的猴儿
ARM、Linux、Adas、AI(CV)、AI(LLM),C/C++、Qt、Python;(该精不是精,该通又很通)
展开
-
DeepSeek R1 && Ascend全国产化大模型推理本地化部署教程它来了
DeepSeek-R1在昇腾Atlas300IPro使用mindie推理套件本地化部署大模型推理。全栈国产化技术体系原创 2025-02-05 21:42:03 · 6509 阅读 · 14 评论 -
AscendCL对tensor维度变换
使用昇腾AscencCL做tensor的维度变换原创 2025-01-13 09:20:50 · 228 阅读 · 0 评论 -
华为昇腾服务器+Atlas300IPro*2 部署Dify+MindIE+Embedding+Rerank实现Qwen2.5-7B全国产化的大模型推理平台
华为昇腾服务器+Atlas300IPro*2 部署Dify+MindIE+Embedding+Rerank实现Qwen2.5-7B全国产化的大模型推理平台。原创 2024-09-20 17:21:32 · 8782 阅读 · 24 评论 -
昇腾大模型推理解决方案MindIE部署
昇腾大模型推理解决方案MindIE部署笔记,并且分享给大家原创 2024-09-20 16:47:09 · 7905 阅读 · 16 评论 -
昇腾服务器(Atlas800系列)部署embedding和rerank模型
昇腾推理服务器部署embedding和rerank相关的RAG模型原创 2024-09-14 12:05:21 · 5576 阅读 · 15 评论 -
香橙派AIPro开发板安装PyQt5 aarch64
ubuntu 22.04 aarch64安装编译安装PyQt5原创 2024-08-23 10:51:16 · 735 阅读 · 0 评论 -
记录Atlas800服务器环境安装
Atlas800服务器安装部署原创 2024-07-03 22:16:40 · 542 阅读 · 0 评论 -
昇腾推理卡Atlas300IDuo跑sd-webui
昇腾Atlas300IDuo跑sd-webui原创 2024-05-17 11:06:29 · 1910 阅读 · 0 评论 -
Ascend910A Lora微调Qwen1.5 7B 报错Cast failed, original value: 0.0883883, type: FP32Imm 解决方法
910a微调Qwen1.5 报错Cast failed, original value: 0.0883883, type: FP32Imm解决方式原创 2024-05-11 11:35:56 · 566 阅读 · 0 评论 -
Python进程池multiprocessing.Pool
Python的多进程样例开发原创 2024-01-16 16:52:05 · 1003 阅读 · 0 评论 -
MindSpore 设置昇腾Ascend 910显存的默认大小,单卡可执行多任务处理
MindSpore配置NPU卡默认占用30GB的显存大小,可使用NPU卡进行多任务的运行。原创 2023-12-12 10:41:08 · 4347 阅读 · 1 评论 -
昇腾910安装驱动出错,降低Centos7.6的内核版本
Centos7.6 启动内核修改,解决昇腾910安装驱动错误的问题。原创 2023-12-10 00:36:53 · 2287 阅读 · 0 评论 -
Ubuntu20.04降低linux版本到5.4.0-26-generic
Ubuntu20.04降低linux版本到5.4.0-26-generic,】部署Ascend910的驱动和CANN等开发环境原创 2023-12-11 23:15:52 · 4452 阅读 · 8 评论 -
CANN安装失败,提示./toolkit/scripts/install.sh没有那个文件或目录
CANN安装失败,提示toolkit/scripts/install.sh 没有那个文件和目录。原创 2023-11-18 14:28:01 · 875 阅读 · 2 评论 -
baichuan2的13B Lora微调
全量模型下载地址:https://ascend-repo-modelzoo.obs.cn-east-2.myhuaweicloud.com/MindFormers/baichuan2/Baichuan2_13B_Base.ckpt。数据集:https://github.com/baichuan-inc/Baichuan2/blob/main/fine-tune/data/belle_chat_ramdon_10k.json。说明:底层驱动和固件需的版本需要大于等于C84的版本。3、权重文件下载和准备。原创 2023-11-12 19:47:41 · 1564 阅读 · 3 评论 -
基于MindFormers的GLM2 Lora微调
基于MindSpore的GLM2 Lora微调原创 2023-11-01 09:46:53 · 954 阅读 · 4 评论 -
AICC的BMS裸金属服务器配置分布式环境
昇腾服务器配置单机多卡分布式环境原创 2023-10-08 16:09:59 · 381 阅读 · 0 评论 -
人工智能计算中心(AICC)OBS对象存储使用指南
人工智能计算中心(以下简称AICC),提供有AI开发环境、AI训练算力服务以及数据存储服务功能(以下简称OBS)。AI开发环境与数据存储是相互隔离的(开发环境的数据除外),其中数据存储统一存放在OBS桶里面中,以下将讲解如何使用OBS桶进行数据存储以及开发环境中如何与OBS桶进行数据交换。原创 2023-09-11 22:30:05 · 686 阅读 · 0 评论