成功实操记录ChatGLM6b大模型

原创 已于 2023-06-29 21:28:03 修改 · 625 阅读 · 6 ·
CC 4.0 BY-SA版权
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
文章标签：

#语言模型

于 2023-06-29 18:07:47 首次发布

一、申请试用阿里云服务器

页面网址阿里云免费试用 - 阿里云

只要没有申请过PAI-DSW资源的新老用户皆可申请5000CU的免费额度，3个月内使用。

申请试用成功后

创建实例

进入创建页面资源组就选择默认的吧，大概能用13天

进项选择这里不要用默认的，默认的是python3.6比较旧了，现在好多开源项目都是python3.9+，建议选择最后一个

安装好（大概需要15分钟左右）进入实例

阿里云登录 - 欢迎登录阿里云，安全稳定的云计算服务平台

进入终端，然后就可以进入实操步骤

二、ChatGLM6B操作记录

1、下载模型

由于模型较大（13G左右），我们最好先把模型拉到本地，再运行（也可以让代码运行时拉取模型，容易出问题）

模型文件仓库

最低0.47元/天 解锁文章
把huggingface/transformers的模型文件下载到本地
Love-Coding
06-14 4140
python代码 自动下载模型实现和参数。如果你的网络环境较差，下载模型参数可能会花费较长时间甚至失败。此时可以先将模型下载到本地，然后从本地加载。参考 https://github.com/THUDM/ChatGLM-6B 的README。以chatglm-6b为例，然后运行。先安装Git LFS。
各家LLM大模型写作能力大比拼【GPT4、ChatGPT、ChatGLM-6B、ChatGLM-130B、文心一言、讯飞星火、Claude+】《人工智能之神经网络的前世今生和未来发展趋势》为标题
AI天才研究院
06-10 1万+
神经网络是一种类比于人类神经系统的计算模型，由多个神经元按照特定的结构和连接方式组成。神经网络的核心思想是通过模拟人类神经系统的学习和适应能力，从而实现对复杂问题的预测和处理。在神经网络中，通常会使用激活函数来计算神经元的输出值。常用的激活函数包括sigmoid函数、ReLU函数和tanh函数等。此外，神经网络还需要进行反向传播算法来优化权重和偏置值，从而提高预测的准确性。本文主要介绍了神经网络的前世今生和未来发展趋势，深入阐述了神经网络的核心原理和实现方法，并提供了实际操作的指南和示例。
大模型开源：ChatGLM-6B (介绍以及本地部署)
最新发布
2301_81888214的博客
09-14 2146
ChatGLM-6B 是一个开源的、支持中英双语问答的对话语言模型，基于 General Language Model (GLM) 架构，具有 62 亿参数。
大模型部署实战（三）——ChatGLM-6B
WeLearnNLP
06-13 856
ChatGLM-6B 是一个开源的、支持中英双语的对话语言模型，基于 General Language Model (GLM) 架构，具有 62 亿参数。结合模型量化技术，用户可以在消费级的显卡上进行本地部署（INT4 量化级别下最低只需 6GB 显存）。 ChatGLM-6B 使用了和 ChatGPT 相似的技术，针对中文问答和对话进行了优化。经过约 1T 标识符的中英双语训练，辅以监督微调、反馈自助、人类反馈强化学习等技术的加持，62 亿参数的 ChatGLM-6B 已经能生成相当符合人类偏好的回答。本
huggingface_hub优雅下载ChatGLM-6B模型
Hello_World1023的博客
04-25 5902
在./ChatGLM-6B/下创建文件夹./ChatGLM-6B/chatglm-6b/用于存放本地模型。调用huggingface_hub下载ChatGLM-6B模型到指定本地路径。进入chatglm-6b环境, 进入python终端。安装huggingface_hub。查看下载模型的文件目录。
chatglm-6B模型下载
bitcarmanlee的博客
11-20 1944
从huggingface上面下载chatglm-6B模型是比较简捷的方式，下面记录一下下载安装过程。
模型训练系列：1、用清华ChatGLM-6B模型部署自己的本地AI助手
liudun_cool的博客
05-12 3761
首先需要搞一台GPU较强的机器，推荐先租一台腾讯云、阿里云等AI训练的机器，T4显卡就行，一般价格是按量付费几毛钱一个小时。最近清华大学开源的ChatGLM-6B语言模型在国际上大出风头，仅仅62亿参数的小模型，能力却很强。#运行ChatGLM6B 的web版聊天程序，即可访问http://主机IP:8080进行聊天。本文来自知识星球：ConnectGPT ，一个致力于探索AI、语言模型的应用技术的小圈子。#克隆ChatGLM-6B的int4量化模型。#安装所需的python依赖库。
ChatGLM-6B入门
2401_85782600的博客
07-10 1186
ChatGLM-6B 是一个开源的、支持中英双语的对话语言模型，基于架构，具有 62 亿参数。结合模型量化技术，用户可以在消费级的显卡上进行本地部署（INT4 量化级别下最低只需 6GB 显存）。ChatGLM-6B 使用了和 ChatGPT 相似的技术，针对中文问答和对话进行了优化。经过约 1T 标识符的中英双语训练，辅以监督微调、反馈自助、人类反馈强化学习等技术的加持，62 亿参数的 ChatGLM-6B 已经能生成相当符合人类偏好的回答，更多信息请参考我们的博客。
手把手教你本地CPU环境部署清华大模型ChatGLM-6B，利用量化模型，本地即可开始智能聊天，达到ChatGPT的80%
lvaolan8888的博客
04-30 902
大家好，今天教你们本地CPU环境部署清华大ChatGLM-6B模型，利用量化模型，每个人都能跑动大模型。ChatGLM-6B是一款出色的中英双语对话模型，拥有超过62亿个参数，可高效地处理日常对话场景。与GLM-130B模型相比，ChatGLM-6B在对话场景处理能力方面表现更加卓越。此外，在使用体验方面，ChatGLM-6B采用了模型量化技术和本地部署技术，为用户提供更加便利和灵活的使用方式。值得一提的是，该模型还能够在单张消费级显卡上顺畅运行，速度较快，是一款非常实用的对话模型。
ChatGLM-6B阿里云部署
liuhehe的博客
06-23 2074
重点关注指标：CPU、内存、GPU、GPU驱动。
ChatGLM-6B模型部署
yuner027的专栏
04-27 965
1、ICMP是IP协议的附属协议，IP层用它来与其他主机或路由器交换错误的报文信息和重要信息 2、IGMP是Internate组管理协议，它是用来把一个UDP数据包多播到多个主机 3、ARP和RARP是对某些网口使用的特殊协议 地址范围： A类：0.0.0.0 到 127.255.255.255 【开头是0，网络号7位】 B类：128.0.0.0 到191.255.255.255【...
免费部署开源大模型 ChatGLM-6B
wangqiaowq的博客
11-27 5001
其他的不支持，这里注意！V100 性能更好，但我们测试使用没必要，就选 A10 就行，A10 显卡每小时消耗6.991计算时，如果不关机持续使用大概可以使用30天。输入实例名称，就叫它 550W 吧~，GPU 选择 A10 或者 V100 都行，我打开的时候只有V100 了 支持资源包抵扣。1、在阿里云上申请注册及登录并完成认证。进入工作空间 宣交互式建模（DSW）2、登录阿里云 免费试用 页面。
使用hf-mirror.com镜像网站下载模型
weixin_46072203的博客
03-14 3831
【代码】使用hf-mirror.com镜像网站下载模型。
ChatGLM-6B详细学习实践记录与资料分享
Together_CZ的博客
06-30 3094
ChatGLM-6B详细学习实践记录与资料分享
用免费GPU创建属于自己的聊天GPT
music142的博客
09-26 151
资源配置选B1.large，镜像中先点x，再点添加镜像,选择 公开 中的 ChatGLM2-6B_PyTorch2.0.1（作者为“趋动云小助手”）,然后点击确认。点击添加端口，内部端口数字可自由填写，如77。下载压缩包，然后直接拖拽至 “上传代码” 框中，随后单击 “确定”。，选择：当前空间，请确保当前所在空间是注册时系统自动生成的空间。行输入您的问题并回车，等待 ChatGLM 回答您的问题。单击 创建，创建成功，同时弹出 上传代码 框。点击：快速创建，选择创建项目，创建新项目。
ChatGLM2-6B、ChatGLM-6B 模型介绍及训练自己数据集实战
热门推荐
dream_home8407的博客
04-12 5万+
ChatGLM2-6B 模型介绍及训练实战
【自然语言处理】【大模型】ChatGLM-6B模型结构代码解析(单机版)
bqw的博客
05-29 6847
ChatGLM-6B模型结构代码解析(单机版)​ 本文介绍ChatGLM-6B的模型结构，代码来自https://huggingface.co/THUDM/chatglm-6b/blob/main/modeling_chatglm.py。
ChatGLM-6B：自定义数据集和模型微调！
Datawhale
05-30 5201
Datawhale干货开源：ChatGLM，编辑：Coggle数据科学ChatGLM-6B介绍ChatGLM-6B是一个开源的、支持中英双语问答的对话语言模型，基于General Language Model (GLM)架构，具有 62 亿参数。具体代码和权重可以从????获取：https://github.com/THUDM/ChatGLM-6B/ https://huggingface.co/...
评论 1
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值