在Jetson AGX Orin上体验ChatSQL

文章讲述了用户张小白在JetsonAGXOrin上尝试使用大模型技术,从创建conda环境,安装PyTorch,到遇到的Torch版本问题,以及编译自定义PyTorch包和解决HuggingFace连接问题的过程。

在Jetson AGX Orin上体验ChatSQL

阅读了 https://zhuanlan.zhihu.com/p/630230870

这篇文字之后,张小白就想玩一玩。考虑到它用到了大模型技术,还是先在Jetson AGX Orin上试试比较保险。

先创建conda环境:(考虑到pytorch的Jetson版本目前只有python3.8的版本)

conda create -n chatsql python=3.8

conda activate chatsql

cd /home1/zhanghui

git clone https://github.com/yysirs/ChatSQL.git

cd ChatSQL

pip install -r requirements.txt

等等,凡是在Jetson上安装torch都要小心。

在 requirements.txt注释掉torch

pip install -r requirements.txt

真是的,不知道在哪里又引发了torch。。。那就装完了再卸载吧!唉。

cd ..

安装torch 2.0.0 Jetson专用版:

pip install ./torch-2.0.0+nv23.05-cp38-cp38-linux_aarch64.whl

cd ChatSQL

mkdir DB

mkdir logs

# 生成本地数据库+插入数据

python local_database.py

评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
红包 添加红包
表情包 插入表情
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

张小白TWO

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值