【已解决】关于transformers模型‘name ‘init_empty_weights‘ is not defined‘报错

我在运行 SentenceTransformer 的 all-MiniLM-L6-v2 时报错。

问题根源

在新版本的transformers中（例如我的版本是4.51.0），init_empty_weights已被移动到accelerate库中，而不是直接通过transformers提供，这是hugging face生态重构模块路径的结果。

解决方案

1.安装accelerate库

init_empty_weights现在由accelerate库提供，需要先安装这个库：

在cmd中输入:

pip install accelerate

2.修改导入路径

导入路径添加

from accelerate import init_empty_weights  # 新路径

3.检查代码兼容性

如果代码有旧版写法，需要修改为新的，示例：

# 旧版写法（已废弃）
with init_empty_weights():
    model = MyModel()
 
# 新版写法（需配合 accelerate）
from accelerate import init_empty_weights
with init_empty_weights():
    model = MyModel()

到此我已经成功解决该报错。

参考：【已解决】关于transformers模型‘init_empty_weights‘报错-优快云博客