自定义博客皮肤VIP专享

*博客头图:

格式为PNG、JPG,宽度*高度大于1920*100像素,不超过2MB,主视觉建议放在右侧,请参照线上博客头图

请上传大于1920*100像素的图片!

博客底图:

图片格式为PNG、JPG,不超过1MB,可上下左右平铺至整个背景

栏目图:

图片格式为PNG、JPG,图片宽度*高度为300*38像素,不超过0.5MB

主标题颜色:

RGB颜色,例如:#AFAFAF

Hover:

RGB颜色,例如:#AFAFAF

副标题颜色:

RGB颜色,例如:#AFAFAF

自定义博客皮肤

-+
  • 博客(7)
  • 收藏
  • 关注

原创 使用LLaMA-Factory对ChatGLM3进行微调

步骤一、进入LLaMA-Factory并开启微调步骤二、上传之前准备好的数据集

2024-06-24 11:04:02 363

原创 数据集准备

"第一轮指令(选填)", "第一轮回答(选填)"],["第二轮指令(选填)", "第二轮回答(选填)"]"instruction": "人类指令(必填)","system": "系统提示词(选填)","system": "系统提示词(选填)","output": "模型回答(必填)","input": "人类输入(选填)","value": "人类指令""value": "工具参数""value": "工具结果""value": "模型回答""tools": "工具描述(选填)"

2024-06-24 10:52:48 2104

原创 部署openapi

"}], \"stream\": false, \"max_tokens\": 100, \"temperature\": 0.8, \"top_p\": 0.8}"便于后端直接与端口交互进行访问。# 克隆m3e向量模型。使用crul进行测试。

2024-06-24 10:43:06 427

原创 部署微调框架LLaMA-Factory

1.我们在ChatGLM3的github官方页面上能看到对LLaMA-Factory的推荐。在Notebook中执行以下代码,拉取LLaMA-Factory项目到DSW实例。运行如下命令,如果显示llamafactory-cli的版本,则表示安装成功。,在工作空间列表页面中单击默认工作空间名称,进入对应工作空间内。在页面左上方,选择DSW实例所在的地域。安装LLaMA-Factory依赖环境。1.看到如下页面就已经部署成功。,进入DSW实例开发环境。页面中,单击快速开始区域。进入DSW开发环境。

2024-06-24 10:36:06 1551

原创 利用阿里云部署ChatGLM3-6B模型

首先需要修改目录,ChatGLM3 提供了三种使用方式:命令行 Demo,网页版 Demo 和 API 部署;在启动模型之前,需要找到对应启动方式的 python 源码文件 cli_demo.py,web_demo.py,openai_api.py 中修改。把下载好的 chatglm3-6b 预训练模型文件放到 ChatGLM3 仓库目录同级,如果是从 ModelScope 下载的话注意目录层级,模型加载需要修改本地模型路径;,首先为实例命名,此处的命名可为ChatGLM_Original。

2024-05-31 01:12:06 369

原创 阿里云简介及阿里云部署大模型的优势

阿里云(Alibaba Cloud)是阿里巴巴集团旗下的云计算服务平台,成立于2009年。作为全球领先的云计算及人工智能科技公司,阿里云提供全面的云计算服务和解决方案,包括计算、存储、数据库、网络、安全、人工智能、大数据和物联网等领域,服务于全球企业、开发者和公共机构。阿里云的基础设施分布在全球多个国家和地区,通过其广泛的网络和先进的技术,阿里云致力于推动数字经济的发展,为用户提供安全、可靠、高效的云计算服务。

2024-05-31 00:50:58 618

原创 ChatGLM-6B模型简介

THUDM/ChatGLM3: ChatGLM3 series: Open Bilingual Chat LLMs | 开源双语对话语言模型 (github.com)

2024-05-31 00:38:10 1273

空空如也

空空如也

TA创建的收藏夹 TA关注的收藏夹

TA关注的人

提示
确定要删除当前文章?
取消 删除