Hoper-J的博客

你将从本文中了解到模型参数与显存（GPU 内存）之间的关系，和不同精度的导入方式，以及它们对显存和性能的影响。

什么是AutoModel，AutoModel 和 AutoModelForXXX 到底有什么区别，演示如何使用 `inspect` 库查看对应的源码。

本文介绍了 LoRA，这是一种能够有效减少模型微调参数量的技术，我们将从线性层的基本原理出发，逐步讲解 LoRA 的核心思想，代码将从简单的线性层到注意力机制。你会解决困惑：为什么只导入 LoRA 模型不能生图？

这篇文章会从基础的一个数学概念到对应的代码实现，你将了解到：- 为什么`nn.Parameter()`接受$ (\text{out\_features}, \text{in\_features}) $作为参数？- 为什么不是`torch.matmul(self.weight, x) + self.bias`？- 如何使用`torch.matmul()`，`@`或 `F.linear()` 去等价地实现`nn.Linear()`的输出。

从模型接受的输入去发现Self-attention和Cross-attention的区别

李宏毅2023机器学习作业HW06解析和代码分享

李宏毅2023机器学习作业HW04解析和代码分享

李宏毅2023机器学习作业HW04解析和代码分享

李宏毅2023机器学习作业HW03解析和代码分享

torchvision.transforms 常用方法解析（含图例代码以及参数解释）

错误处理数据导致模型 train 不起来。

如何计算神经网络的参数量？如何创建多隐藏层的网络？如何创建总参数量接近的神经网络？（Deep/Shallow)

李宏毅机器学习作业 HW01 数据集解析和代码分享

Pytorch中的多项分布multinomial.Multinomial().sample()解析

【深度学习】已经编写完训练函数 trainer() 的情况下自动调参并输出最优解（python）

统计学习方法P54中位数脚注疑惑