- 博客(7)
- 收藏
- 关注
原创 数据集准备
"第一轮指令(选填)", "第一轮回答(选填)"],["第二轮指令(选填)", "第二轮回答(选填)"]"instruction": "人类指令(必填)","system": "系统提示词(选填)","system": "系统提示词(选填)","output": "模型回答(必填)","input": "人类输入(选填)","value": "人类指令""value": "工具参数""value": "工具结果""value": "模型回答""tools": "工具描述(选填)"
2024-06-24 10:52:48
2104
原创 部署openapi
"}], \"stream\": false, \"max_tokens\": 100, \"temperature\": 0.8, \"top_p\": 0.8}"便于后端直接与端口交互进行访问。# 克隆m3e向量模型。使用crul进行测试。
2024-06-24 10:43:06
427
原创 部署微调框架LLaMA-Factory
1.我们在ChatGLM3的github官方页面上能看到对LLaMA-Factory的推荐。在Notebook中执行以下代码,拉取LLaMA-Factory项目到DSW实例。运行如下命令,如果显示llamafactory-cli的版本,则表示安装成功。,在工作空间列表页面中单击默认工作空间名称,进入对应工作空间内。在页面左上方,选择DSW实例所在的地域。安装LLaMA-Factory依赖环境。1.看到如下页面就已经部署成功。,进入DSW实例开发环境。页面中,单击快速开始区域。进入DSW开发环境。
2024-06-24 10:36:06
1551
原创 利用阿里云部署ChatGLM3-6B模型
首先需要修改目录,ChatGLM3 提供了三种使用方式:命令行 Demo,网页版 Demo 和 API 部署;在启动模型之前,需要找到对应启动方式的 python 源码文件 cli_demo.py,web_demo.py,openai_api.py 中修改。把下载好的 chatglm3-6b 预训练模型文件放到 ChatGLM3 仓库目录同级,如果是从 ModelScope 下载的话注意目录层级,模型加载需要修改本地模型路径;,首先为实例命名,此处的命名可为ChatGLM_Original。
2024-05-31 01:12:06
369
原创 阿里云简介及阿里云部署大模型的优势
阿里云(Alibaba Cloud)是阿里巴巴集团旗下的云计算服务平台,成立于2009年。作为全球领先的云计算及人工智能科技公司,阿里云提供全面的云计算服务和解决方案,包括计算、存储、数据库、网络、安全、人工智能、大数据和物联网等领域,服务于全球企业、开发者和公共机构。阿里云的基础设施分布在全球多个国家和地区,通过其广泛的网络和先进的技术,阿里云致力于推动数字经济的发展,为用户提供安全、可靠、高效的云计算服务。
2024-05-31 00:50:58
618
原创 ChatGLM-6B模型简介
THUDM/ChatGLM3: ChatGLM3 series: Open Bilingual Chat LLMs | 开源双语对话语言模型 (github.com)
2024-05-31 00:38:10
1273
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人