- 博客(308)
- 收藏
- 关注
RSS订阅原创 使用Datawhale的AMD云平台搭建大模型环境
下载Gemma4模型：modelscope download --model google/gemma-4-E4B-it --cache_dir "./models"启动模型：vllm serve ./models/google/gemma-4-E4B-it/ --served-model-name gemma-4-E4B-it。打开新终端：vllm chat --url http://localhost:8000/v1 --model gemma-4-E4B-it。查看GPU情况：amd-smi。
2026-06-23 10:55:06
274
原创 大模型微调与Harness
Harness 是包裹在模型外部的一整套工程机制，包括系统提示词、上下文管理、工具调用、任务路由、工作流编排、结构化输出、结果校验、失败重试、权限控制、安全护栏、日志追踪和评估体系。最新模型确实减少了很多微调需求。过去需要训练专用模型完成的文本分类、信息抽取、代码生成、文档总结等任务，现在通过强模型、提示词和少量示例就能达到不错的效果。把 Agent 的每一步执行都建模为可验证的状态转移，系统必须知道当前状态是什么，哪些动作只是候选，哪些动作已经提交，哪些状态可以回滚，哪些失败需要隔离或交给人类处理。
2026-06-16 15:40:43
538
原创 处理报错：TypeError: embedding(): argument ‘indices‘ (position 2) must be Tensor, not ChatPromptValue
大模型调用
2025-08-04 14:17:34
482
1
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人