- 博客(6)
- 收藏
- 关注
RSS订阅原创 AI夏令营
1、采用大模型本地测试采用Qwen模型，由于是本地测试，大一点的模型本地运行不够，推理速度很慢采用第二中方式，直接调用API的方法是，在推理阶段可以看到一些问题，商品识别还是情感分类都是一个多分类问题，但是大模型会出现一些其他的答案，导致得到结果后还需要再处理一次，结果不太友好。因为没有实验微调的，所以不知道结果，但是可以肯定是的是大模型的结果是有提升的。
2025-07-16 21:24:17
128
原创 LLM_study概览
LLM在海量的数据运行不需要对数据提前进行标注任务（就是提前不用给答案让模型学习在举一反三）而是提供少量的这样的提前有答案的示例从而完成这种Bert+微调的方式。在同样的模型架构和预训练认为下，一些能力在小模型上不明显，但是在大模型中就很突出，总结成一句话就是。在大模型没有出现的时候主流的是预训练模型+微调的方法是实现无监督下进行自监督的学习。从符号主义阶段---统计学习---深度学习阶段--预训练模型阶段---大模型阶段。NLP是对人类的语言文本进行处理、理解、生成的。那什么是涌现能力呢？
2025-06-21 09:30:00
152
原创 动手学LLM03
由于单个文档的长度往往会超过模型支持的上下文，导致检索得到的知识太长超出模型的处理能力，因此，在构建向量知识库的过程中，我们往往需要对文档进行分割，将单个文档按长度或者按固定的规则分割成若干个 chunk，然后将每个 chunk 转化为词向量，存储到向量数据库中。注意：这里我出现的是错误结果，在官方的测试用例平台上也是错误的，报错超出限额了，应该是要钱的吧，所以就pass，知道怎么用就行。对传统的数据库管制向量数据的相似性和特性。输出的内容是一个pdf的每一页的类型，描述性数据、和那页对应的数据。
2024-06-17 18:13:19
1028
原创 动手学大语言模型LLM-02
在开发和应用模型的时候，注意会生成虚假信息的风险，模型经过大模型预训练，有丰富的知识，但是并没有完全记住所见的信息，难以准确判断自己的知识边界，会做出错误判断。设计prompt的时候，要给语言模型充足的推理时间，可以通过prompt引导语言模型进行深度思考，要求先列出问题的开发，说明推理依据在总结，在prompt中加入逐步推理的要求，让模型投入更多时间去思考，使其输出的结果更可靠。temperature 取值范围在0-1，越接近0，预测的随机性越低，更保守，越接近1，随机性高。
2024-06-15 01:27:04
1038
原创 动手学大语言模型LLM-01
LangChain 框架的核心库、核心组件，提供了基础抽象和 LangChain 表达式语言（LCEL），提供基础架构和工具，用于构建、运行和与 LLM 交互的应用程序，为 LangChain 应用程序的开发提供了坚实的基础。统计学习的方法，分析前面的词汇预测下一个词汇-------------> 假如神经网络模型，把模型更好的捕捉和理解语言的复杂关系---------------->Transformer架构的神经网络模型，通过学习大量文本理解语言规则和模式—>大语言模型的实现。
2024-06-14 17:35:50
2218
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人