自定义博客皮肤VIP专享

*博客头图:

格式为PNG、JPG,宽度*高度大于1920*100像素,不超过2MB,主视觉建议放在右侧,请参照线上博客头图

请上传大于1920*100像素的图片!

博客底图:

图片格式为PNG、JPG,不超过1MB,可上下左右平铺至整个背景

栏目图:

图片格式为PNG、JPG,图片宽度*高度为300*38像素,不超过0.5MB

主标题颜色:

RGB颜色,例如:#AFAFAF

Hover:

RGB颜色,例如:#AFAFAF

副标题颜色:

RGB颜色,例如:#AFAFAF

自定义博客皮肤

-+
  • 博客(4)
  • 问答 (2)
  • 收藏
  • 关注

原创 微调加推理 bge-small-zh-v1.5 模型

print("GPU 名称:", torch.cuda.get_device_name(0)){"sentence": "机器学习可以应用于自然语言处理", "label": 2},{"sentence": "今天天气很好,我想去散步", "label": 0},{"sentence": "苹果公司发布了新款手机", "label": 3},{"sentence": "股市大跌,投资者很慌", "label": 1},{"sentence": "孩子生病了,需要去医院", "label": 4}

2025-09-16 15:02:40 1335

原创 如何微调模型

场景解决方案举例通用问答直接使用原模型ChatGPT回答日常问题医疗法律等专业领域必须微调让Qwen模型学会诊断病例是指模型能同时处理(如文本、图片、音频、视频等),并理解它们之间的关联。就像人类可以通过“看图片+读文字”综合理解内容一样,多模态模型也能做到这一点。模态数据类型模型如何处理文本文字、指令分词器(Tokenizer)转换为Token图像图片、图表视觉编码器(如ViT)提取特征音频声音、语音声谱图转换+特征提取视频连续帧画面+音频。

2025-09-09 09:42:31 1417

原创 vllm框架部署Qwen3-32B+使用openwebuiapi调用

bin/bash:容器名称,可自定义。:左侧为宿主机模型目录,右侧为容器内模型目录。:镜像ID,请根据实际镜像填写。镜像使用的是:vllm 2.32.0.11-torch2.4-py310-ubuntu20.04-amd64其余都是默认选项。

2025-09-04 13:31:05 826

原创 vllm部署DeepSeek-R1-Distill-Qwen-32B + OpenWebUI

bin/bash:容器名称,可自定义。:左侧为宿主机模型目录,右侧为容器内模型目录。:镜像ID,请根据实际镜像填写。镜像使用的是:vllm 2.32.0.11-torch2.4-py310-ubuntu20.04-amd64其余都是默认选项。

2025-09-01 10:23:58 1517 1

空空如也

TA创建的收藏夹 TA关注的收藏夹

TA关注的人

提示
确定要删除当前文章?
取消 删除