本文描述了在使用AutoModelForCausalLM时遇到的RuntimeError，原因是模型参数未完全下载。作者提到需确保下载HuggingFace模型时包含所有内容，特别是对于Char类型的处理，转而使用LlamaForCausalLM并强调了安全tensor在下载过程中的重要性。
### 问题1
RuntimeError: "normal_kernel_cpu" not implemented for 'Char'.
使用AutoModelForCausalLM加载模型会报错，改使用LlamaForCausalLM模型告知是因为模型参数没有下载完全导致的错误。在huggingface上下载模型文件的时候需要把红色框中内容全部下载。我使用的是safetensors
扫一扫
评论 1
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
查看更多评论
添加红包
