- 博客(140)
- 收藏
- 关注
RSS订阅原创 EventEmitter--Node.js 事件驱动的核心
net.Server对象在每次有新连接时触发事件。对象在文件被打开时触发事件。所有这些事件对象都是的实例。是 Node.js 中用于创建、注册和触发事件的核心模块，实现了事件驱动编程的基础。
2025-03-25 10:17:44
406
原创 关于《Hands-On Large Language Models: Language Understanding and Generation》各章节博客目录汇总
《Hands-On Large Language Models: Language Understanding and Generation》一书的博客目录，共整理了12篇博客，对应书中12章的内容。每篇博客都提供了详细的地址，方便您快速查阅与学习。
2025-02-28 16:42:46
437
原创 第十二章：生成模型微调
在本章中，我们探讨了微调预训练LLM的不同步骤。我们通过低秩适应（LoRA）技术利用参数高效微调（PEFT）进行微调。我们解释了如何通过量化扩展LoRA，这是一种减少表示模型和适配器参数时内存约束的技术。我们探讨的微调过程分为两个步骤。在第一步中，我们使用指令数据对预训练的LLM进行监督微调，通常称为指令调优。这样得到了一个具有聊天行为且能紧密遵循指令的模型。在第二步中，我们通过在对齐数据上进一步微调模型，数据表示了哪些类型的回答优于其他回答。
2025-02-28 16:29:39
641
原创 第十一章：微调表示模型用于分类
在本章中，我们探索了如何对预训练表示模型进行微调，适应不同的分类任务。我们首先演示了如何对一个预训练的 BERT 模型进行微调，然后将这些例子扩展到冻结部分模型层的情况。接着，我们实验了一种少样本分类技术——SetFit，它通过仅使用有限的标记数据来微调预训练的嵌入模型与分类头，并生成了与前面章节中探索的模型相似的性能。然后，我们深入探讨了继续预训练的概念，使用一个预训练的 BERT 模型作为起点，继续用不同数据进行训练。这种基于掩码语言模型的方法不仅用于创建表示模型，还可以用于继续预训练模型。
2025-02-28 15:46:52
1028
原创 第十章：创建文本嵌入模型
对比学习是训练和微调文本嵌入模型的一种重要技术。对比学习的目标是训练嵌入模型，使得相似文档在向量空间中彼此更接近，而不相似的文档则距离更远。如果这听起来很熟悉，那是因为它与第二章中提到的word2vec方法非常相似。我们在图10-2和图10-3中已经看到过这个概念。对比学习的基本思想是，学习和建模文档之间的相似性/不相似性的最佳方式是向模型提供相似和不相似的文档对。为了准确捕捉文档的语义特征，通常需要将其与另一篇文档进行对比，以便模型学习什么使它们相似或不同。这种对比过程非常强大，且与文档的写作背景相关。
2025-02-28 11:04:28
1053
原创 第九章：多模态大语言模型
在本章中，我们探索了多种方法，通过弥合文本和视觉表示之间的差距，使大型语言模型（LLMs）具备多模态能力。我们首先讨论了用于视觉的 Transformer，这些模型可以将图像转换为数值表示。这是通过使用图像编码器和 patch embedding 实现的，它们使得模型能够在不同尺度上处理图像。接着，我们探讨了如何通过 CLIP 创建嵌入模型，将图像和文本都转换为数值表示。我们看到 CLIP 如何通过对比学习将图像和文本嵌入对齐到一个共享空间中，从而实现零样本分类、聚类和搜索等任务。
2025-02-27 21:34:56
989
原创 文本预处理时Resource punkt/stopwords/averaged_perceptron_tagger_eng/wordnet not found报错解决方式--亲测有效
Resource punkt/stopwords/averaged_perceptron_tagger_eng/wordnet not found报错解决方式
2025-02-02 22:05:31
251
原创 PyTorch 快速入门
本文介绍了PyTorch的基本使用，包括数据处理、模型创建、参数优化、模型保存与加载，通过FashionMNIST数据集的示例，展示了如何快速上手PyTorch进行机器学习任务。
2025-01-30 23:18:16
767
原创 Pytorch框架从入门到精通
本文介绍了PyTorch中张量的初始化、操作、优化模型参数、保存和加载模型等内容，涵盖了从基础张量操作到神经网络训练、模型保存与预测的全流程。
2025-01-30 23:05:09
1136
1原创 决策树算法
决策树是一种基于规则的方法， 它用一组嵌套的规则进行预测。在树的每个决策节点处， 根据判断结果进入一个分支， 反复执行这种操作直到到达叶子节点，得到 预测 / 分类结果。
2025-01-16 23:42:11
1088
原创 Linux下基本指令
指令：ls pwd cd touch mkdir rm man cp mv cat more less head tail datefind grep zip/unzip tar uname bc 几个热键 关机指令 Xshell登陆Linux操作
2024-12-28 20:59:42
1526
原创 Python学习第十五天--魔术方法
魔法方法就是可以给你的类增加魔力的特殊方法，它们总被双下划线所包围，像这种格式:"__方法名__"，这些方法很强大，充满魔力，可以让你实现很多功能。
2024-12-02 23:04:14
756
原创 Python学习第十三天--面向对象
pass #空类中使用passdef info(self): #self指的是创建出来的对象print(self) #打印当前对象的地址。
2024-11-27 23:08:23
350
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人