记:怎么改路径都不行,反正就是报错
from transformers import LlamaForCausalLM
model = LlamaForCausalLM.from_pretrained(
"/autodl-tmp/data/deepseek_models/deepseek-coder-1.3b-base",
local_files_only=True,
cache_dir=None,
trust_remote_code=False,
device_map="auto",
torch_dtype=torch.bfloat16
)
HFValidationError: Repo id must be in the form 'repo_name' or 'namespace/repo_name': '/autodl-tmp/data/deepseek_models/deepseek-coder-1.3b-base'. Use `repo_type` argument if needed.
[ ]:
如果方法,麻烦推我一下!感恩!我这个代码认知真的很烂!
于是我就想用古老的方式解决一下
Git 下载 DeepSeek 模型代码 + 用 Hugging Face 下载的权重 = 自己实例化模型