- 博客(10)
- 收藏
- 关注
RSS订阅原创 LangchainChatChat+Xinference推理大模型环境搭建rag教程
在工作目录的knowledge_base/samples/content/文件夹下,也就是目录/home/llm/chatchat_data/data/nowledge_base/samples/content/下的文件夹就是知识库内容存放的地方，还需要下载这个whl包，然后传服务器上去手动安装（清华源没有这个包，而且，要翻墙，所以只能手动下载，然后传上去）#启动完成以后，工作目录/home/llm/chatchat_data中就生成了如下的配置文件。修改chatchat的前端和API的启动IP和端口。
2024-12-26 10:41:21
922
原创 frcrn语音增强模型（语音去噪）报错Error opening ＜_io.BytesIO object at 0x7b6d31be4db0＞: Format not recognised.
主要支持的是无损音频格式（如 WAV、FLAC），对于有损压缩格式（如 MP3）的支持有限。库无法识别压缩后的 MP3 文件的格式。
2024-11-26 17:37:18
375
原创 cannot find -lascendcl: No such file or directory /usr/bin/ld: cannot find -lacl_dvpp: No such file
需要执行环境变量：
2024-07-05 10:21:21
213
原创 ibascend_hal.so: cannot open shared object file:No such.
执行环境变量(如果没有修改toolkit的安装目录就是这个)source /usr/local/Ascend/ascend-toolkit/set_env.sh。:昇腾NPU报错libascend_hal.so: cannot open shared object file:No such.
2024-07-05 10:17:39
889
1
原创 gradio部署whisper在web端报错Error Media devices could not be accessed. Check that you are running on a sec
然后在gradio代码中修改launch： app.launch(share=True, server_name="0.0.0.0", ssl_certfile="./cert.pem", ssl_keyfile="./key.pem", ssl_verify=False)网上搜到的，大概意思就是这个错误通常是因为浏览器安全策略阻止了对媒体设备的访问。说人话就是，我这个是http://服务器ip:端口port，得换成http。）上运行它，浏览器就会阻止访问媒体设备。:://服务器ip::端口port。
2024-06-29 01:36:00
522
原创 TOCH_npu不适配报错packages/torchaudio/lib/libtorchaudio.so: undefined symbol: _ZNK5torch8autograd4Node4n
具体是执行这一句：bash train_full_8p.sh --stage=-1 --stop_stage=5 --data_path=/home/wutong/docker/nvme0n1/Wenet_Conformer_for_Pytorch/aishll-1/：执行环境变量(如果没有修改toolkit的安装目录就是这个)source /usr/local/Ascend/ascend-toolkit/set_env.sh。这好像是因为torch_npu和torch版本不对应，我现在的版本是。
2024-06-28 21:27:16
959
原创 用昇腾NPU+FastChat推理GML2-6B报错query_layer = apply_rotary_pos_emb(query_layer, rotary_pos_emb)
用https://gitee.com/ascend/ModelZoo-PyTorch/blob/master/PyTorch/built-in/foundation/ChatGLM2-6B/model/modeling_chatglm.py这个文件替换模型本来的modeling_chatglm.py，#用fastchat推理。下载模型，模型文件如下。
2024-06-28 18:01:53
1875
1
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人