- 博客(11)
- 收藏
- 关注
原创 大模型微调教程
环境准备:安装必要的库和依赖项。获取模型:加载 Qwen2.5-7B-Instruct 模型和 tokenizer。准备数据:格式化你的数据集,以适应微调任务。训练:使用和Trainer来进行模型微调。评估和保存:训练完成后评估模型,并保存微调后的模型。推理:加载训练好的模型,并在新数据上进行推理。通过上述步骤,你就可以顺利地使用对模型进行微调。
2025-03-07 10:01:18
248
原创 提升大模型准确性的三种方法对比:提示词工程、知识库、微调
方法优点缺点适用场景提示词工程快速、低成本、灵活,能够快速调整模型输出仅限于任务表层优化,无法深层次改变模型行为文本生成、对话系统、信息检索等任务知识库扩展知识面,弥补模型知识缺口,可动态更新需要构建和维护,知识库不完整时可能导致错误输出问答系统、专业领域应用(如医疗、法律等)微调深度定制,能够针对特定任务或领域提高模型性能需要大量标注数据和计算资源,可能会引发灾难性遗忘问题分类、命名实体识别、专业领域问题处理等提示词工程。
2025-02-10 14:17:51
1469
原创 如何构建一个基于Milvus和LLM的智能知识库
通过结合Milvus与大语言模型(LLM),我们可以构建一个高效的智能知识库系统。Milvus提供了高效的向量检索能力,而大语言模型则能够生成高质量的回答。通过本教程的介绍,我们实现了一个基于这些技术的简单问答系统,用户可以输入问题,系统自动检索相关信息并生成答案。这种智能知识库系统能够在多种场景下发挥作用,包括政务服务查询、企业内部文档管理等。随着数据量的增加,系统的智能化水平也会不断提升,为用户提供更精确的回答。
2025-01-10 10:50:41
988
原创 设计模式之策略模式
/ 折扣策略接口// 根据总价计算折扣// 满100元减10元的策略@Override// 满100元减10元// 8折策略@Override// 打8折// 满200元减20元的策略@Override// 满200元减20元// 购物车类,持有策略对象并使用它// 通过构造器注入策略// 设置策略// 计算总价// 使用策略计算总价。
2024-12-19 18:16:19
358
原创 OpenSearch安装教程
打开另一个终端会话并向服务器发送请求以验证 OpenSearch 是否正在运行。打开另一个终端会话并向服务器发送请求以验证 OpenSearch 是否正在运行。OpenSearch 是一个开源的、分布式的、RESTful 风格的搜索和分析引擎。使用安全演示配置运行 OpenSearch 启动脚本。增加 OpenSearch 可用的内存映射数量。更改为 OpenSearch 安装的顶级目录。,这是必需的,因为 TLS 证书是自签名的。禁用主机上的内存分页和交换性能以提高性能。向端口9200发送请求。
2024-11-28 16:14:28
1384
原创 opensearch安装ik分词器
或者你可以使用来安装插件,如下所示:找到安装目录中的提示:请替换与您的 opensearch 相关的版本号。
2024-09-29 10:38:35
527
1
原创 java-语种类型判断
该软件使用基于每种语言的通用文本创建的语言配置文件。然后从该文本中提取 N-gram https://baike.baidu.com/item/n%E5%85%83%E8%AF%AD%E6%B3%95/19133139,这就是存储在配置文件中的内容。当要分析的输入文本很短或不干净时,识别会不准确。当文本以多种语言编写时,该软件的默认算法不合适。您可以尝试拆分文本(按句子或段落)并检测各个部分。在最好的情况下,对整个文本运行语言检测只会告诉您最主要的语言。
2024-03-28 10:36:47
1397
1
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人