报错如下:
llama-2-70b-chat does not appear to have a file named config.json
解决
cd llama
ln -s llama-2-70b-chat 70B
mkdir llama-2-70b-chat-hf
python ./transformers/src/transformers/models/llama/convert_llama_weights_to_hf.py --input_dir . --model_size 70B --output_dir llama-2-70b-chat-hf --safe_serialization true
2023-7-26 17:21分开始执行,2023-7-26 17:32结束
llama-2-70b-chat-hf就是最终产物了,之后使用这个目录进行模型加载
解决llama-2-70b-chat缺少config.json的错误并转换模型
文章描述了一种处理llama-2-70b-chat模型缺少config.json文件的错误情况,通过克隆HuggingFace的transformers库,使用转换脚本将权重迁移到HF目录,从而创建了llama-2-70b-chat-hf作为加载模型的新目录。
3731

被折叠的 条评论
为什么被折叠?



