自定义博客皮肤VIP专享

*博客头图:

格式为PNG、JPG,宽度*高度大于1920*100像素,不超过2MB,主视觉建议放在右侧,请参照线上博客头图

请上传大于1920*100像素的图片!

博客底图:

图片格式为PNG、JPG,不超过1MB,可上下左右平铺至整个背景

栏目图:

图片格式为PNG、JPG,图片宽度*高度为300*38像素,不超过0.5MB

主标题颜色:

RGB颜色,例如:#AFAFAF

Hover:

RGB颜色,例如:#AFAFAF

副标题颜色:

RGB颜色,例如:#AFAFAF

自定义博客皮肤

-+
  • 博客(7)
  • 收藏
  • 关注

原创 【转载+修改】 ollama多显卡都用上,实现负载均衡

添加这两行:Environment="CUDA_VISIBLE_DEVICES=0,1" Environment="OLLAMA_SCHED_SPREAD=1"Environment="CUDA_VISIBLE_DEVICES=0,1" 代表让ollama能识别到第几张显卡。Environment="OLLAMA_KEEP_ALIVE=-1" 模型一直加载, 不自动卸载。Environment="OLLAMA_SCHED_SPREAD=1" 这几张卡均衡使用。ctrl+o确认保存 ctrl+x退出。

2025-09-11 16:24:36 526

原创 hugging face model部署至ollama平台

如果报错,可更改config.json中的"vocab_size": 262144 到提示的大小。

2025-04-15 11:12:22 310

原创 wsl ubuntu下配置latex并汉语支持

宏包(在 texlive-full 中已经包含)。1、安装latex工具套件。3、在扩展商店中搜索。

2024-12-13 16:50:23 444

原创 mobsf更新

github Release下载源代码。解压缩进去,安装更新文件,耐心等待。

2024-11-12 14:01:14 235

原创 Vscode远程调试遇到界面转发时怎么办?

在vscode调试的命令行里输入。有端口10可以,输入。

2024-11-08 10:00:39 586

原创 ubuntu空间不够怎么pip

的全局配置文件,使其始终使用新的临时和缓存目录。如果仍然遇到问题,可以尝试更改。

2024-07-17 19:29:43 628

原创 ubuntu配置conda

bash Anaconda3--Linux-x86_64.sh。可以通过复制连接替换为最新版本。

2024-04-30 17:44:36 1023

空空如也

空空如也

TA创建的收藏夹 TA关注的收藏夹

TA关注的人

提示
确定要删除当前文章?
取消 删除