DB-GPT的源码安装,使用mysql库并链接ollama

前安装这玩意可累死我了,官方文档语嫣不详的,摸索加班好几天可算搞出来了,我的评价安装不如dify方便,不多逼逼下面看安装步骤

本次使用ubuntu的GPU服务器进行安装

本次需求为DB-GPT+ollama

基础环境准备

1.ollama

2.mysql

3.conda

4.DB-GPT以上

一.ollama安装

(1)官方地址

https://ollama.com/

(2)官方提供脚本安装,直接使用脚本进行安装

curl -fsSL https://ollama.com/install.sh | sh

(3)安装完毕后需要进行更改

第一处,查看想要使用的显卡编号 ,我这里使用0,1两个显卡

第二处,修改启动文件

Environment="OLLAMA_HOST=0.0.0.0" #服务启动后对外的地址 Environment="CUDA_VISIBLE_DEVICES=0,1" #指定显卡使用的显卡块 Environment="OLLAMA_MODELS=/data/ollama/models" #指定模型存储位置

[Unit]
Description=Ollama Service
After=network-online.target

[Service]
ExecStart=/usr/bin/ollama serve
User=root
Group=root
Restart=always
RestartSec=3
Environment="PATH=/root/.pyenv/shims:/root/.pyenv/bin:/root/.pyenv/bin:/usr/local/sbin:/usr/local/bin:/usr/sbin:/usr/bin:/sbin:/bin:/snap/bin"
Environment="OLLAMA_HOST=0.0.0.0"
Environment="CUDA_VISIBLE_DEVICES=0,1"
Environment="OLLAMA_MODELS=/data/ollama/models"

[Install]
WantedBy=default.target

(4)启动服务

systemctl start ollama

二.mysql安装

(1)修改ubuntu的源

vim /etc/apt/sources.list


deb http://cn.archive.ubuntu.com/ubuntu jammy main restricted
deb http://cn.archive.ubuntu.com/ubuntu jammy-updates main restricted
deb http://cn.archive.ubuntu.com/ubuntu jammy universe
deb http://cn.archive.ubuntu.com/ubuntu jammy-updates universe
deb http://cn.archive.ubuntu.com/ubuntu jammy multiverse
deb http://cn.archive.ubuntu.com/ubuntu jammy-updates multiverse
deb http://cn.archive.ubuntu.com/ubuntu jammy-backports main restricted universe multiverse
deb http://security.ubuntu.com/ubuntu/ jammy-security main restricted
deb http://security.ubuntu.com/ubuntu/ jammy-security universe
deb http://security.ubuntu.com/ubuntu/ jammy-security multiverse

apt update #进行更新

(2)下载mysql

我这里是将mysql的数据存储到/opt/mysql下

apt install mysql-server -y 
service mysql stop
mkdir /opt/mysql
chown -R mysql.mysql /opt/mysql
chmod 755 /opt/mysql
cp -arp /var/lib/mysql/* /opt/mysql

-----------------------------------------------------
vim /etc/mysql/mysql.conf.d/mysqld.cnf  编辑配置文件
# 修改指定选项(注意备份)
评论 5
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值