前安装这玩意可累死我了,官方文档语嫣不详的,摸索加班好几天可算搞出来了,我的评价安装不如dify方便,不多逼逼下面看安装步骤
本次使用ubuntu的GPU服务器进行安装
本次需求为DB-GPT+ollama
基础环境准备
1.ollama
2.mysql
3.conda
4.DB-GPT以上
一.ollama安装
(1)官方地址
https://ollama.com/
(2)官方提供脚本安装,直接使用脚本进行安装
curl -fsSL https://ollama.com/install.sh | sh
(3)安装完毕后需要进行更改
第一处,查看想要使用的显卡编号 ,我这里使用0,1两个显卡
第二处,修改启动文件
Environment="OLLAMA_HOST=0.0.0.0" #服务启动后对外的地址 Environment="CUDA_VISIBLE_DEVICES=0,1" #指定显卡使用的显卡块 Environment="OLLAMA_MODELS=/data/ollama/models" #指定模型存储位置
[Unit]
Description=Ollama Service
After=network-online.target
[Service]
ExecStart=/usr/bin/ollama serve
User=root
Group=root
Restart=always
RestartSec=3
Environment="PATH=/root/.pyenv/shims:/root/.pyenv/bin:/root/.pyenv/bin:/usr/local/sbin:/usr/local/bin:/usr/sbin:/usr/bin:/sbin:/bin:/snap/bin"
Environment="OLLAMA_HOST=0.0.0.0"
Environment="CUDA_VISIBLE_DEVICES=0,1"
Environment="OLLAMA_MODELS=/data/ollama/models"
[Install]
WantedBy=default.target
(4)启动服务
systemctl start ollama
二.mysql安装
(1)修改ubuntu的源
vim /etc/apt/sources.list
deb http://cn.archive.ubuntu.com/ubuntu jammy main restricted
deb http://cn.archive.ubuntu.com/ubuntu jammy-updates main restricted
deb http://cn.archive.ubuntu.com/ubuntu jammy universe
deb http://cn.archive.ubuntu.com/ubuntu jammy-updates universe
deb http://cn.archive.ubuntu.com/ubuntu jammy multiverse
deb http://cn.archive.ubuntu.com/ubuntu jammy-updates multiverse
deb http://cn.archive.ubuntu.com/ubuntu jammy-backports main restricted universe multiverse
deb http://security.ubuntu.com/ubuntu/ jammy-security main restricted
deb http://security.ubuntu.com/ubuntu/ jammy-security universe
deb http://security.ubuntu.com/ubuntu/ jammy-security multiverse
apt update #进行更新
(2)下载mysql
我这里是将mysql的数据存储到/opt/mysql下
apt install mysql-server -y
service mysql stop
mkdir /opt/mysql
chown -R mysql.mysql /opt/mysql
chmod 755 /opt/mysql
cp -arp /var/lib/mysql/* /opt/mysql
-----------------------------------------------------
vim /etc/mysql/mysql.conf.d/mysqld.cnf 编辑配置文件
# 修改指定选项(注意备份)