baichuan2部署中，各种属性不存在的报错

AttributeError: 'BaichuanTokenizer' object has no attribute 'sp_model'

报错

AttributeError: 'BaichuanTokenizer' object has no attribute 'sp_model'

解决方案

pip install transformers==4.33.1

Torch各种has no attribute的报错。

Torch需要升级到2.0.1.对应的升级cuda到11.8后，更新对应的torch xformers Bitsandbytes , 问题都解决了。

ModuleNotFoundError: No module named 'transformers'

运行streamlit run web_ui2.py报错，但transformers已经安装：

ModuleNotFoundError: No module named 'transformers'

现在用：/home/ubuntu/anaconda3/envs/baichuan2/bin/streamlit run web_ui2.py 可正常启动，正常回答。还能避免命令行启动输入中文删除后报字符转码错误。 具体原因未知。