AttributeError: module ‘paddle‘ has no attribute ‘Tensor‘

芝士高斯

已于 2023-07-18 19:12:25 修改

阅读量1.4k

点赞数 1

分类专栏： python编程文章标签： paddle 人工智能深度学习 chatgpt 语言模型

于 2023-07-11 13:06:43 首次发布

本文链接：https://blog.youkuaiyun.com/weixin_45751925/article/details/131657870

版权

python编程专栏收录该内容

23 篇文章 ¥19.90 ¥99.00

订阅专栏

在尝试使用Paddle库加载ChatGLM-6B模型时，遇到了'AttributeError: module 'paddle' has no attribute 'Tensor''. 代码调用示例中使用了transformers库的AutoTokenizer和AutoModel，而非Paddle。模型在CUDA设备上运行并进行对话交互，提供了自我介绍和电影推荐。解决方案包括检查云平台环境的镜像是否为PyTorch，以及在本地创建PyTorch的虚拟环境。

摘要生成于 C知道，由 DeepSeek-R1 满血版支持，前往体验 >

文章目录

ChatGLM-6B是一个由清华大学和智谱AI联合研发的开源对话语言模型。它是一个支持中英双语问答的对话系统，并在中文方面进行了特别的优化。
该模型基于General Language Model (GLM)架构，具有62亿参数。借助模型量化技术，用户可以在消费级的显卡上进行本地部署，INT4量化级别下最低只需6GB显存。ChatGLM-6B使用了和ChatGLM相同的技术，针对中文问答和对话进行了优化经过约1T标识符的中英双语训练，辅以监督微调、反馈自助、人类反馈强化学习等技术的加持，62亿参数的ChatGLM-6B已经能生成相当符合人类偏好的回答。
总之，ChatGLM-6B在语言生成和对话方面表现出了非常出色的能力，可以广泛应用于人机交互、自然语言处理、智能客服等领域。

代码调用演示

from transformers import AutoTokenizer, AutoModel
tokenizer = AutoTokenizer.from_pretrained(“THUDM/chatglm-6b”, trust_remote_code=True)
model = AutoModel.from_pretrained(“THUDM/chatglm-6b”, trust_remote_code=True).half().cuda()
model = model.eval()
respons

了解本专栏