
阅读了 https://zhuanlan.zhihu.com/p/630230870
这篇文字之后,张小白就想玩一玩。考虑到它用到了大模型技术,还是先在Jetson AGX Orin上试试比较保险。
先创建conda环境:(考虑到pytorch的Jetson版本目前只有python3.8的版本)
conda create -n chatsql python=3.8
conda activate chatsql

cd /home1/zhanghui
git clone https://github.com/yysirs/ChatSQL.git

cd ChatSQL
pip install -r requirements.txt

等等,凡是在Jetson上安装torch都要小心。
在 requirements.txt注释掉torch

pip install -r requirements.txt

真是的,不知道在哪里又引发了torch。。。那就装完了再卸载吧!唉。

cd ..
安装torch 2.0.0 Jetson专用版:
pip install ./torch-2.0.0+nv23.05-cp38-cp38-linux_aarch64.whl

cd ChatSQL
mkdir DB
mkdir logs
# 生成本地数据库+插入数据
python local_database.py

文章讲述了用户张小白在JetsonAGXOrin上尝试使用大模型技术,从创建conda环境,安装PyTorch,到遇到的Torch版本问题,以及编译自定义PyTorch包和解决HuggingFace连接问题的过程。
最低0.47元/天 解锁文章
4145

被折叠的 条评论
为什么被折叠?



