- 博客(11)
- 收藏
- 关注
RSS订阅原创 Ubuntu如何使用vLLM运行AI大模型
执行sudo apt update时遇到了cdrom源的错误，这是因为系统中残留了光驱（CDROM）的软件源配置，但实际没有挂载光驱，导致更新失败。vLLM 服务进程（常驻） └── GPU 上的模型 ↑ 多个客户端（Web / App / Spring / curl）（也叫 Runtime API），是你实际安装在系统中、用于编译 CUDA 程序的工具版本。（也叫 Driver API），代表你的显卡驱动最高支持到哪个 CUDA 版本。CUDA Toolkit（CUDA 工具包）的编译器版本。
2026-01-09 09:50:03
872
原创 Ubuntu如何使用Hugging Face Transformers运行AI大模型
尝试使用 PyTorch 官方推荐的通用安装命令（优先推荐）这个命令会自动检测系统、CUDA 版本并安装适配的 PyTorch 版本，避免手动指定cu131导致的匹配问题。根据输出，安装的为 PyTorch：2.9.1（GPU 版本，兼容 CUDA 13.0 驱动）安装对应 Python 版本的venv包（当前Python 版本是 3.12）登入后，创建Read权限的Access Token，并复制生成的Token。安装核心依赖（这是 Transformers 的“地基”）
2026-01-08 09:15:07
780
原创 Ubuntu如何使用Ollama运行AI大模型
意味着 ollama 可以利用 GPU 进行模型推理，提升性能。安装脚本检测到系统中安装了。提问AI时，观察显存占用率。安装Ollama管理工具。启动Ollama服务。
2026-01-08 09:06:02
275
原创 keycloak本地运行集成springboot+vue项目（demo）
下载和运行首先下载keycloaka官方最新版终端打开keycloak-26.3.3目录访问创建用户 并登陆打开Keycloak 管理控制台将客户端页面设置为中文点击 Realm settings 打开Internationalization开关 在Supported locales中选择简体中文 并设置为Default locales点击save后 刷新页面 就能看到页面已经切换为中文修改keycloak内置数据库。
2025-08-28 09:54:58
1138
2
原创 IDEA远程调试
注意事项： 进行远程调试时，非常重要的一点是必须确保本地代码和线上代码的版本完全一致。如果版本不一致，断点可能无法正确触发，从而导致调试失败。
2024-07-08 17:48:33
7344
原创 deepin配置Redis
5. 高可用性和分布式：通过 Redis Sentinel 实现高可用性，通过 Redis Cluster 实现分布式存储和水平扩展。3. 持久化：支持将数据持久化到磁盘，可以通过 RDB 快照或 AOF（Append Only File）日志方式实现数据持久化。7. Lua 脚本：可以在 Redis 中执行 Lua 脚本，保证操作的原子性和高效性。Redis：开源的、基于内存的数据结构存储系统 可以用作数据库、缓存和消息代理。设置守护进程模式运行：找到以下行 将'no'改为'yes'
2024-06-28 09:02:25
404
原创 Deepin配置maven、安装MariaDB、安装mysql
配置maven下载maven包下的3.9.8版本的bin.gar.gz文件我把解压后的文件放在了 /usr/lib/maven/apache-maven-3.9.8 路径下nano ~/.bashrc 打开文件编辑把加在文件末尾退出编辑器后source ~/.bashrc加载配置文件检验一下 配置完成配置mysql。
2024-06-27 09:24:55
1454
原创 linux系统学习——关于SSH
SSH（Secure Shell）是一种加密的网络协议，用于在不安全的网络中安全地传输数据。它通常用于远程管理和远程访问计算机系统。
2024-06-24 15:25:04
1375
原创 linux系统学习笔记——配置JDK6/8/21并实现切换
但是下次再说吧~目前只有我在用，哈哈哈哈。如上写了一个switch_java的方法， 简单的判断输入的是8还是21，用来切换jdk版本，但是在保存更改验证以后发现，这个方法在切换到jdk21以后，显示的路径虽然发生更改，但包含了之前的jdk8的路径，修改成下面的代码了，通过备份初始路径，替换中间包含jdk版本的部分。运行这个switch_java命令切换jdk后，环境都能配置好，但我又发现了一个问题，就是一旦关闭终端再打开，就会回到jdk8，不管上次有没有切换成jdk21，于是再次修改。
2024-06-07 14:28:25
942
原创 linux系统学习笔记——刻盘安装
安装好以后又发现由于我只简单点击了全盘安装，系统盘只有15G，想下载应用商店里的分区软件直接改大小，发现大小并不能变动，不敢随意新建删除，但是怕系统盘太小影响后续使用又重装了一次...还截图了分区软件里每个分区挂载哪些目录，结果发现全盘安装下面有个选项可以直接调整根目录大小...改成了200G。选择install就好了，接下来就一直next，当时不知道第一行和第三行有啥区别，只是看别人教程选的是第三个，今天搜索知道了后面的5.15和5.18是内核版本，稳定和新的区别。
2024-06-07 08:54:42
453
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人