- 博客(4)
- 收藏
- 关注
RSS订阅原创 MaxKB+Ollama 构建私有化知识库问答系统
官网链接（MaxKB 是一款基于 LLM 大语言模型的知识库问答系统。MaxKB = Max Knowledge Base，旨在成为企业的最强大脑。开箱即用：支持直接上传文档、自动爬取在线文档，支持文本自动拆分、向量化，智能问答交互体验好；无缝嵌入：支持零编码快速嵌入到第三方业务系统；多模型支持：支持对接主流的大模型，包括 Ollama 本地私有大模型（如 Llama 2、Llama 3、qwen）、通义千问、OpenAI、Azure OpenAI、Kimi、智谱 AI、讯飞星火和百度千帆大模型等。
2024-09-14 14:25:30
2343
原创 GPU云主机安装驱动和cuda环境
NVME 1.8T * 4（暂未使用）安装完成后添加cuda路径到环境变量里。480 G （单盘跑）下载显卡驱动，链接如下。下载cuda，链接如下。
2024-09-14 11:01:22
889
原创 使用Prometheus监控GPU
安装的exporter参考链接https://github.com/utkuozdemir/nvidia_gpu_exporter/blob/master/INSTALL.md。参考链接https://grafana.com/grafana/dashboards/14574-nvidia-gpu-metrics/# 报错使用命令 iex "& {$(irm get.scoop.sh)} -RunAsAdmin"导入Prometheus数据源的步骤 自行配置 此处省略。使用systemd管理grafana。
2024-07-20 12:43:00
1998
1
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人