- 博客(43)
- 收藏
- 关注
原创 langchain的简单使用(工作流)
它并发(或顺序)地执行每个值对应的 Runnable,并把结果按同样的 key 收拢成新字典。返回值仍然是一个 Runnable,只是它的输出变成了。负责把用户输入变成“关键词字符串”。一个普通的 Runnable,例如。上游给你的是一个字典,例如。
2025-11-05 18:14:25
478
原创 transformers + peft 框架大模型微调
### Instruction:\n将下列文本翻译成英文:今天天气真好\n\n### Response:\nToday is a nice day!将输入和输出同时给模型,让他根据输出不断去拟合从输入到输出的逻辑,类似于将问题和答案同时给模型,让模型基于答案学习解决问题的过程。:### Instruction:\n将下列文本翻译成英文:今天天气真好\n\n### Response:\n。input_ids:SFT微调模型的输入,即instruction+response。
2025-09-26 21:51:10
765
原创 Num3:Prompt工程
对于逻辑推导、数学证明、算法设计、故障排查等复杂任务至关重要,能显著提高答案正确率。用法:下面是[数量]个例子:[示例1] [示例2] [示例3] 请模仿以上风格/格式,完成:[你的任务]。作用:通过2-3个高质量示例,让AI瞬间理解你想要的风格、深度、语气、格式、术语级别。用动词起句,精准锁定操作类型:撰写、改写、总结、翻译、生成、解释、充当……可叠加多个维度:受众、语气、风格、关键词、情感取向、长度限制等。作用:告诉AI“你是谁”,它就调用相应的知识库和表达方式。例:请撰写 / 请充当 / 请总结。
2025-09-23 10:42:41
491
原创 Num2:大模型API调用(vLLM高性能部署)+本地部署
虽然使用 transformers 在本地部署模型能让我们获得完整的控制权限,但这种方式存在一定的性能瓶颈,尤其在首次推理时表现明显。这种本地部署方式更适合进行简单模型加载测试或算法研究工作,但若要将模型打造成一个支持高并发调用的服务,其计算效率则显得捉襟见肘。请同学们尝试使用 python 中的 requests 来调用模型服务。: 模型路径,指向本地存储的 Qwen 3.0 6B 模型文件。max_tokens(最大令牌数):限制模型回复的最大长度。: 服务启动后使用的模型名称。
2025-09-18 17:54:06
866
原创 Num1:大模型下载+配置+生成内容
(1)resume-download:下载某个模型,0.6B即0.6 Billion参数,即Qwen-6亿参数。(2)local-dir:将模型下载到哪个文件夹。
2025-09-15 17:53:23
1196
原创 大模型实习必备八股文 之 Tokenization
分词是将输入文本分割成一个个词元(token),这些词元具有相对完整和独立的语义,以便供后续任务使用。
2025-01-19 15:44:23
712
原创 Pytorch学习--神经网络--搭建小实战(手撕CIFAR 10 model structure)和 Sequential 的使用
手撕CIFAR 10 model structure代码
2024-11-04 16:09:26
786
原创 服务器封装代码--关于GDAL的处理(同时涉及虚拟环境中GDAL的配置)
服务器封装代码--关于GDAL的处理(同时涉及虚拟环境中GDAL的配置)
2024-11-02 20:58:19
905
原创 Pytorch学习--神经网络--最大池化的使用
Pytorch学习--神经网络--最大池化的使用(代码2包含dataset、DataLoader、nn.Module、Tensorboard、nn.MaxPool2d的使用)
2024-10-28 15:36:57
830
原创 Pytorch学习--卷积层(代码包括 Dataset 、DataLoader、nn.Module、nn.Conv2d、Tensorboard的使用)
代码包括 Dataset 、DataLoader、nn.Module、nn.Conv2d、Tensorboard的使用
2024-10-27 20:29:00
540
原创 遥感AI论文-GeoKR系列--Geographical Knowledge-Driven Representation Learning for Remote Sensing Images阅读(1)
GeoKR类论文阅读--Geographical Knowledge-Driven Representation Learning for Remote Sensing Images阅读(1)
2024-10-09 20:24:22
1007
原创 遥感图像小白--6--自动编码器&&零样本学习&&自我监督、无监督、对比学习
遥感图像中的自动编码器、零样本学习、自我监督、无监督、对比学习的简单概念。
2024-10-05 19:45:10
1337
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人
RSS订阅
1