macbook 加载模型报错:failed to load model

环境:macbook m1 + conda + python3.9

加载模型链接为:ggml-model-q4_0.bin

 加载方式:

from langchain.embeddings import LlamaCppEmbeddings
embeddings = LlamaCppEmbeddings(model_path=llama_path)

在linux上加载是正常的,但是在macbook上就报错:failed to load model

一开始以为模型坏了,删除重新下载,仍然报错。

解决方案参考:https://github.com/imartinez/privateGPT/issues/113

pip install llama-cpp-python==0.1.48

 原来的是0.1.78,更新为48之后,的确是可以正常加载了。

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值