- 博客(17)
- 收藏
- 关注
RSS订阅原创 基于llama.cpp的GGUF量化与基于llama-cpp-python的部署
笔者在做GGUF量化和后续部署的过程中踩到了一些坑，这里记录一下。
2024-04-17 16:25:25
4338
1
原创 LLaMA-Factory 基于docker的大模型多卡分布式微调
LLaMA-Factory是一个相当优秀的微调框架。这里提供一个dockerfile和一个train脚本，用于多卡微调，供大家参考。
2024-02-13 16:01:57
4299
1
原创 基于docker的neo4j部署和import
最近在服务器端通过docker部署了neo4j，一直在想如何优雅的进行import。现在貌似找到了一些思路，在这边写出来和大家交流。
2023-10-31 10:27:26
381
1
原创 分布式学习-1 Hadoop Spark安装
折腾了一个多月的时间，成功实现了一些应用。学习过程中还是踩了不少坑的，所以在这里对整个构建过程进行整理，方便大家参考学习。
2022-09-26 21:51:20
2246
原创 网络表征学习（Network Embedding） 0.为什么要做表征
最近在解决多层网络表征的时候遇到了一些问题，也想到了一些小技巧，所以想着做一个系列文章，整理自己的思考。
2022-04-19 17:05:27
1466
原创 Dockerfile 基于Docker快速部署深度学习环境
前言：Dockerfile可以快速部署一个特定环境的容器，用来运行深度学习模型，解决模型因为环境/版本不同而不能运行的问题。这篇博客主要解决ubuntu下通过Dockerfile创建容器。1.Docker安装这里可以参看我之前的博客ubuntu20.04下 nvidia-docker的安装并载入镜像看完安装就好，镜像载入，创建容器的工作我们都可以通过Dockerfile实现。2.准备工作需要明确运行代码所需的python版本要求，依赖包的版本要求，特别是torch和tensorflow的版本。
2022-03-28 04:03:34
4007
原创 阿里云API调用 OCR python
前言：进行一个OCR的任务，决定采用阿里云的OCR API，奈何阿里云的文档有些零散，这篇文章将整理一下流程和相关链接，其他api调用可以参考。准备1.注册阿里云账号2.生成AccessKey这两部分比较简单，这里不再赘述1.环境配置首先是SDK安装，链接：阿里云视觉开放平台/SDK参考核心库：pip3 install aliyun-python-sdk-coreAPI相关库：pip3 install aliyun-python-sdk-ocr这样按照示例代码已经可以运行了（来源：
2022-03-15 11:59:27
2308
原创 Ubuntu20.04下Horovod GPU安装
前言：之前在看分布式训练的时候看到了这个框架，尝试安装并使用，但是在安装和使用过程中踩了很多的坑，这里记录一下。（关于分布式训练有个系列文章很不错，链接我放在这里大家和可以看看。）单机多卡-1.理论基础、单机多卡-2.TensorFlow、单机多卡-3.Pytorch、单机多卡-4.Horovod1.安装流程我们先来到horovod的官网：horovod安装引导这里我们看到了一些基本的要求，包括python3，cmake，g++等等，安装过程比较简单这里不在赘述。同时为了使用显卡，cuda+cud
2021-11-08 20:56:28
943
5
原创 ubuntu20.04下 nvidia-docker的安装并载入镜像
1.卸载docker参考这篇：https://cloud.tencent.com/developer/article/1541011查询相关软件包：dpkg -l | grep docker对查询到的结果逐一卸载：sudo apt remove --purge 查询到的与docker相关的包然后需要autoremove一次：sudo apt autoremove2.nvidia-docker安装参考NVIDIA官网给出的安装教程：https://docs.nvidia.com/d
2021-03-23 21:07:13
8255
原创 ubuntu20.04中python3.6安装
1.添加源更新源：apt updateapt upgrade先安装vim：apt install vimvim /etc/apt/sources.list添加清华大学的ubuntu软件源：# 默认注释了源码镜像以提高 apt update 速度，如有需要可自行取消注释deb https://mirrors.tuna.tsinghua.edu.cn/ubuntu/ bionic main restricted universe multiverse# deb-src https://m
2021-03-23 14:18:16
6235
2
原创 ubuntu20.04 显卡驱动 cuda cudnn安装
1.卸载1.1显卡驱动卸载sudo apt purge nvidia*删完之后需要aoturemove一下sudo apt autoremove1.2cuda卸载我这边安装的cuda版本是11.0，和8.0版本的卸载方式还不一样。旧的版本（8.0）：sudo /usr/local/cuda-8.0/bin/uninstall_cuda_8.0.pl参考：https://blog.youkuaiyun.com/qq_33200967/article/details/80689543.新的版本（1
2021-03-22 19:40:18
1719
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人