CSGHub SaaS快速入门指南

原创 已于 2024-10-28 11:54:27 修改 · 758 阅读 · 7 ·
CC 4.0 BY-SA版权
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
文章标签：

#人工智能

于 2024-10-27 15:26:27 首次发布

图片

什么是CSGHub？

CSGHub是一个开源、可信的大模型资产管理平台，可帮助用户治理LLM和LLM应用生命周期中涉及到的资产（数据集、模型文件、代码等）。CSGHub致力于提供一种专为大型模型原生设计，且能够私有化部署离线运行的资产管理解决方案。提供代码开源、可私有化部署的类Hugging Face平台功能，以类似GitLab管理源代码、OpenStack Glance管理虚拟机镜像、Harbor管理容器镜像以及 Sonatype Nexus 管理制品的方式，实现对LLM资产的管理。

您可通过访问CSGHub开源项目页面 https://github.com/OpenCSGs/CSGHub 或传神社区官方网站 https://opencsg.com 来获取更多详情和最新消息。

我们欢迎并鼓励用户在使用CSGHub的过程中，通过GitHub发起Issue来进行问题讨论或对CSGHub开源项目进行代码贡献，共同促进平台的持续发展和改善。

为什么要使用CSGHub？

在当前这个大模型多元化迅速演进的时代，数据及模型已逐步成为企业与个人用户最关键的数字资产。尽管如此，现阶段所面临的一系列问题，诸如管理工具的分散、管理手段单一、单机化等，不仅为安全运营带来了潜在风险，也对企业在大模型技术的持续创新及应用能力的发展构成了障碍。

我们认为大模型将会成为推动信息技术革命的核心动力。因此，探索一种更为高效、安全且可靠的管理策略，以优化和保护核心资产——即模型、数据和大模型应用代码，成为个人与企业共同面对的重大课题。为此，CSGHub项目应运而生，旨在针对上述挑战提供切实可行的解决方案。

CSGHub可以为您带来以下能力：

  • 资产统一管理： 一站式Hub统一管理模型文件、数据集、大模型应用代码。

  • 研发生态兼容： 同时支持HTTPS和SSH协议的Git命令和Web界面操作，同时提供企业内完全兼容Hugging Face SDK的研发生态，确保不同用户均可方便使用。

  • 大模型能力扩展： 原生支持版本化管理、模型格式转化、数据自动预处理、数据集预览等功能。

  • 权限与安全： 支持与企业用户系统集成、支持资产可见范围设置、外内部接口鉴权设计，满足企业安全需求。

  • 私有化部署支持： 无互联网依赖、无云厂商依赖等外部依赖，可一键启动私有化部署。

  • 大模型原生设计： 支持自然语言交互、模型一键部署、Agent与Copilot App等资产管理。

CSGHub技术特点

  • CSGHub整合了多源Git Server、Git LFS大文件存储协议和对象存储OSS等技术，提供可靠的数据存储层、灵活的基础设施接入层和高兼容的研发工具支持。

  • 通过服务化的架构，CSGHub提供CSGHub Server后台服务和CSGHub Web Service的管理界面，普通用户可以快速使用Docker compose或Kubernetes Helm Chart启动服务，实现生产级的资产管理。具备自研能力的用户可利用CSGHub Server进行二次开发，将管理功能集成到外部系统或自定义高级功能。

  • CSGHub借助Apache Arrow和DuckDB等优秀开源项目，支持Parquet数据文件格式的预览，便于算法研究人员和爱好者进行本地化数据集管理。

  • CSGHub提供直观的Web界面和面向企业组织架构的权限设计，用户可通过Web UI实现版本控制管理、在线浏览和下载，也可以设置数据集和模型文件的可见范围，实现数据安全隔离，还可以对模型和数据集发起话题讨论。

教程内容

本教程旨在从实操入门、快速部署、基础概念以及应用视角多维度全面地向您介绍CSGHub，以便您能够高效掌握利用CSGHub及大模型能力。即使您之前没有部署经验，本教程也帮助您快速上手。针对更进阶的内容和高级功能，我们另外提供了面向高级用户和开发人员的文档，旨在提供详尽的说明和指导。

CSGHub SaaS快速入门指南

注册和设置

注册和登录

  1. 访问CSGHub SaaS服务：打开OpenCSG主页（https://opencsg.com/），体验CSGHub SaaS服务。

  2. 注册账户：点击页面右上角的登录/注册按钮。填写账户信息（用户名、密码、手机号和邮箱）完成注册。

  3. 登录：使用用户名和密码登录。

配置SSH密钥（可选）

  1. 添加SSH密钥：进入“账户设置 > SSH密钥”页面，点击添加SSH密钥。粘贴你的SSH公钥并保存。

  2. 使用Git命令：配置完成后，你可以使用Git推送和拉取仓库内容。

模型管理：创建、上传和下载

创建模型仓库 

登录平台后，点击头像，选择新建模型按钮。点击后进入模型仓库创建页面，填写以下基本信息完成创建：

  • 模型仓库的拥有者默认为用户名，但你可以从下拉菜单中选择组织名称。

  • 模型名称和描述。

  • 选择许可证类型。

  • 选择是否将模型设为公开。

图片

上传模型文件

  1. 通过网页上传：点击添加文件，选择“创建新文件”或“上传文件”。

    图片

  2. 通过Git上传：确保本地已安装Git并配置Git账户信息，然后按照以下步骤进行：

    • 首先通过Git下载模型仓库，然后将要上传的模型文件复制到相应的仓库。

    • 假设你的模型文件在本地目录/work/my_model_dir中，可以通过以下命令将文件上传至平台创建的模型仓库：

cd test_modelcp -rf /work/my_model_dir/* .git add .git commit -m "commit message"git push

下载模型

通过HTTP下载：

git lfs installgit clone https:/opencsg.com/models/demo/test_model.git

通过SSH下载：

git lfs installgit clone ssh://git@hub.opencsg.com/models/demo/test_model.git

  1. 通过网页下载：在文件列表页面点击下载按钮，直接下载文件。

    图片

  2. 通过Git下载：

  3. 通过SDK下载：CSGHub SDK提供了Python库，可以通过SDK下载数据。

图片

推理与微调

推理

创建专用实例

在模型页面选择模型并点击部署。从下拉菜单中选择“专用端点”并进入创建页面。

注意：并非所有模型都支持创建专用端点。如果你希望使用的模型没有“专用端点”选项，请通过contact@opencsg.com联系我们。

图片

在专用端点创建页面，填写以下基本信息后点击创建按钮。

图片

    • 端点名称：可自定义，需唯一。

    • 模型ID：CSGHub社区中的模型ID。

    • 副本范围：1~5。

    • 选择地区和资源配置。

    • 选择推理框架。

    • 选择是否将端点设为公开。

使用专用端点 

Summary页面可以看到专用端点的URL和运行状态。你可以使用该URL调用专用端点。

Playground模块允许用户通过图形界面与模型交互，测试推理结果，而无需编写代码。

图片

微调

创建微调实例

在模型页面点击微调实例，进入创建页面。

注意：并非所有模型都支持创建微调实例。如果你希望使用的模型没有“微调实例”选项，请通过contact@opencsg.com联系我们。

图片

在微调实例创建页面，填写以下基本信息后点击“创建实例”按钮。

图片

    • 实例名称：可自定义，需唯一。

    • 模型ID：CSGHub社区中的模型ID。

    • 选择地区和资源配置。

    • 选择运行时框架。

使用微调实例 

在概览页面配置参数，选择数据集并启动模型的微调过程。

图片

你还可以点击“启动Notebook”按钮，通过Notebook界面对模型进行微调。

图片

使用LLaMA Factory进行微调的重要参数示例 

在配置好参数后，点击开始按钮，LLaMA Factory将根据你的设置启动模型微调。

图片

图片

微调结果 

  • 微调前：在聊天选项卡中，点击加载模型，在Web UI中与模型对话。输入想要询问的内容，点击提交。发送消息后，模型生成响应，但微调前可能无法正确回答中文问题。

    图片

  • 微调后：点击卸载模型，然后点击加载模型，重新与微调后的模型对话。再次发送相同的内容，模型将根据数据集学习并能够正确回应中文问题。

    图片

这就是CSGHub SaaS服务的基本探索，更多信息请参阅OpenCSG文档中心。

OpenCSG文档中心：https://opencsg.com/docs/intro

欢迎加入传神社区

•贡献代码，与我们一同共建更好的OpenCSG

•Github主页

欢迎🌟：https://github.com/OpenCSGs

•Huggingface主页

欢迎下载:https://huggingface.co/opencsg

•加入我们的用户交流群，分享经验

图片

扫描上方二维码添加传神小助手

“      关于OpenCSG

开放传神（OpenCSG）成立于2023年，是一家致力于大模型生态社区建设，汇集人工智能行业上下游企业链共同为大模型在垂直行业的应用提供解决方案和工具平台的公司。

关注OpenCSG

图片

加入传神社区

图片

OpenCSG
关注
Saas语法学习-入门实践进阶
liubenzun的博客
12-05 1940
一个设计良好的采用阶梯，既要向客户提供持续的价值，也要能够在每个台阶促使客户养成使用习惯，并且每一个台阶，即产品的功能，都与产品交付的核心价值密切相关。从现有的最佳客户出发，了解他们的痛点、诉求和异议，分析是什么原因让他们选择我们而不是竞争对手的产品，然后使用他们的语言去描述和表达，从而吸引和转化与现有客户相似的目标对象。在SaaS中，产生价值差距通常是因为客户未能与产品最为重要的功能完成互动，致使客户预期的价值与感知到的价值之间有落差，产品价值与客户体验到的价值之间的差距会将客户推向流失。
云计算入门指南
10-12
云计算入门指南通过非技术性的语言，帮助读者快速理解并进入云计算的世界。无论是对于个人用户，还是企业决策者，这本书都是一份宝贵的资源，为他们在信息技术的选择和应用上提供了清晰的指南。通过阅读这本书，读者...
CSGHub All-in-One Docker 快速部署
OpenCSG的博客
11-14 1494
CSGHub 是一个集成化的模型和数据集管理平台，旨在为用户提供高效的机器学习工作流。无论您是进行概念验证、测试，还是在本地快速验证模型，CSGHub 都能为您提供所需的核心功能，包括：模型和数据集的管理与协作快速推理和模型微调一键部署，无需繁琐配置今天的指南将教您如何利用 Docker 快速将 CSGHub 部署到您的本地环境中（支持 Linux、MacOS 和 Windows 操作系统）。
【亲测免费】 CSGHub 开源项目使用教程
gitblog_01020的博客
09-10 648
CSGHub 是一个开源、可信的大模型资产管理平台，旨在帮助用户治理 LLM（Large Language Model）和 LLM 应用生命周期中涉及到的资产，如数据集、模型文件、代码等。CSGHub 提供类似私有化的 Huggingface 功能，以类似 OpenStack Glance 管理虚拟机镜像、Harbor 管理容器镜像以及 Sonatype Nexus 管理制品的方式，实现对 LLM...
SaaS商业模式：2024年技术创业入门指南
雪兽软件
08-16 1326
SaaS业务模型是SaaS业务如何运营、赚取收入以及如何在市场上生存的蓝图或模板。SaaS商业模式的基本前提是我们在云上托管一个软件（可以通过web浏览器操作），并向用户收取一定的费用才能访问它。我们面临着不同的挑战，因为我们在网上托管SaaS业务，而不是传统的托管。因此，SaaS业务通常更复杂，需要大量的设计技能、编码知识和对最新趋势的关注。SaaS业务模型可以帮助您避开任何业务挑战，并在竞争激烈的SaaS业务领域中茁壮成长。
SpringBoot_SaaS项目快速入门教程
gitblog_01035的博客
09-12 589
SpringBoot_SaaS项目快速入门教程 本指南旨在帮助您理解并快速上手基于SpringBoot的多租户SaaS应用——SpringBoot_SaaS。此项目展示如何利用Spring Boot的强大功能实现一个支持多租户架构的应用程序。接下来，我们将逐一解析其关键组件。 1. 项目目录结构及介绍 SpringBoot_SaaS项目遵循了典型的Spring Boot项目结构，以下是主要的目录及...
什么是软件即服务(SaaS) ? SaaS新手入门指南
yzhhz_2018的博客
10-19 8175
原文标题：What is Software as Service(Saas)?A beginner’s Guide. 原文作者： Salesforce 译文出自：云子可信官方论坛 本文永久链接：https://bbs.cloudtrust.com.cn/thread-355-1-1.html 原文链接：https://www.salesforce.com/in/saas/ 译者：云子可信汉化组 ...
SaaS简介、定价、系统
人不风流枉少年
06-22 1379
SaaS软件即服务（Software as a Service），是一种广泛应用的云计算模型，与传统的本地安装软件不同，SaaS通过云基础设施将应用程序托管在远程服务器上，用户可以通过互联网浏览器或移动设备来访问和使用这些应用程序，而无需安装或维护任何本地软件。优点：低成本：SaaS模式通常采用按需付费的形式，用户只需支付实际使用的费用，无需投入大量资金购买和维护硬件和软件，降低了企业的成本。易于使用：用户只需要通过互联网访问应用程序，无需安装和配置软件，操作简单易用，降低了使用门槛。
OpenCSGs/CSGHub SaaS版全面使用指南：从模型管理到推理微调
gitblog_01140的博客
06-19 371
OpenCSGs/CSGHub是一个面向AI开发者的模型托管与协作平台，其SaaS版本为用户提供了便捷的模型管理、推理部署和微调能力。本文将详细介绍如何充分利用CSGHub SaaS的各项功能，帮助开发者高效管理AI模型生命周期。 ## 一、平台入门基础 ### 1.1 账号注册与配置 要开始使用CSGHub SaaS服务，首先需要完成账号注册。注册过程简单直观，只需提供基本的用户信息即可。...
接私活儿神器，一款功能强大的 SaaS 快速开发平台
Java笔记虾
07-04 1251
本项目是基于开发的微服务中后台快速开发平台，专注于多租户 (SaaS架构) 解决方案，亦可作为普通项目（非SaaS架构）的基础开发框架使用。
一款快速开发SaaS通用管理系统后台框架
07-02
NiuCloud-Admin-SAAS 是一款快速开发SaaS通用管理系统后台框架，前端采用最新的技术栈Vite+TypeScript+Vue3+ElementPlus最流行技术架构，后台结合PHP8、Java SDK、Python等主流后端语言搭建是一款快速可以开发企业级...
构建现代SaaS应用指南
09-12
本书系统讲解如何使用C#和.NET构建现代SaaS应用，涵盖多租户架构、微服务、RESTful API、数据库设计、前端开发、认证授权、自动化测试与CI/CD等核心技术。通过一个贯穿全书的实战项目，读者将掌握从开发、测试到部署...
云计算与人工智能：SaaS架构实战指南.docx
09-05
《云计算与人工智能：SaaS架构实战指南》深入讲解了云计算与人工智能如何与SaaS架构相结合，并提供了一个全面的实战指导。书中第一部分对SaaS架构的基础知识进行了铺垫，介绍了其定义、特点、发展历程，同时阐述了...
《2022 PLG SaaS 内容运营指南》.pdf
03-09
产品驱动增长（Product Led Growth，PLG）...vika维格研究院发布了《2022年 PLG SaaS 内容运营指南》，并提供与理论全面配套的模板（管理系统）。这里的一些观点，或许能让你和你的团队在内容运营上面少走一点儿弯路。
大模型应用：大模型 MapReduce 全解析：核心概念、中文语料示例实现.12
minhuan的专栏
12-03 1281
本文介绍了MapReduce编程模型及其在大模型训练中的应用。MapReduce通过"分治-并行-聚合"思想处理大规模数据，传统Hadoop MapReduce侧重结构化数据计算，而大模型MapReduce则针对自然语言处理任务。文章详细对比了两者在架构、处理对象和核心算力等方面的差异，并提供了中文词频统计的Python实现示例，包括单机版和分布式版本。分布式实现利用多进程模拟集群计算，展示了数据分片、Map、Shuffle和Reduce的完整流程。
人工智能的基石之三：硬件
最简单的方法，解决最实际的问题。
12-05 649
高性能硬件是人工智能的基石，尤其是在机器学习和深度学习领域，海量数据是常态。从充当计算机大脑的中央处理器 (CPU) 到加速计算的图形处理器 (GPU)，硬件的作用是提供处理和运行复杂数据算法所需的原始能力。
【论文速递】2025年第34周(Aug-17-23)(Robotics/Embodied AI/LLM)
最新发布
淋曦的进击手记
12-07 783
自我监督的学习有望消除对手动数据注释的需求，从而使模型能够毫不费力地扩展到大规模的数据集和较大的体系结构。通过不针对特定的任务或领域量身定制，这种训练范式有可能使用单个算法从不同的来源学习视觉表示形式，从自然到航空图像。该技术报告介绍了Dinov3，这是通过利用简单而有效的策略来实现这一愿景的主要里程碑。首先，我们利用仔细的数据准备，设计和优化来扩展数据集和模型大小的好处。其次，我们介绍了一种称为GRAM锚定的新方法，该方法有效地解决了长期训练时间表中已知但未解决的密集特征映射降解的问题。
AI泡沫什么时候破？
脑极体
12-04 654
而AI企业面对的短期形势，可能更为严峻。而AI公司和技术服务商，为了迎合决策者或拿下B端大项目，往往不计成本的低价竞标，无视人工成本的驻场开发，技术价值让位于领导偏好，企业自身也深陷人效黑洞，沦为挣辛苦钱的技术外包。To B/G不赚钱，To C也卖不上价，所以目前AI领域唯一清晰的商业模式，就是类似英伟达的“卖铲人”模式，卖加速卡和算力的企业成了这一轮AI浪潮的最大受益人。去伪存真之后，资本会冷却，叙事会修正，共识会重新凝聚，而那些持续追问“AI如何创造真实价值”的人，会与行业一同穿越周期，走向成熟。
【AI是否能替代IT从业者？】
博文致力于人工智能算法的探索研究；前后端分离项目的技术分享交流；专升本计算机基础课程内容讲解；各种中间件技术分享
12-03 1141
2025年IT行业面临AI深度重构：基础开发、测试、运维岗位替代率超60%，但AI相关新兴岗位激增380%。人类在复杂系统设计、伦理决策和跨界融合领域仍具不可替代性。微软等企业实践显示，人机协作可使效率提升40%。从业者需转型高价值领域（如Agent开发、大模型工程），掌握"技术+领域"双轨能力。AI本质是职业生态重构器，持续学习者的薪资溢价可达150%。建议立即评估岗位AI暴露指数，优先学习分布式架构优化、多智能体开发等技能。
React启动SaaS项目快速入门指南
该模板旨在为开发者提供一个开箱即用、结构清晰、技术先进的Web应用开发起点，尤其适用于希望快速搭建SaaS类产品的团队或个人开发者。从压缩包名称“react-go-saas-starter-main”可以看出，该项目可能由开源社区...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值