- 博客(10)
- 收藏
- 关注
RSS订阅原创 动手学深度学习 第2章预备知识
向量是一维张量，矩阵是二维张量。当用张量表示一个向量时，可以通过shape访问向量的长度，形状是一个元素组，列出张量沿每个轴的长度，对于只有一个轴的张量（即向量），形状就只有一个元素。张量中的元素就像在Python中的数组元素一样，可以通过索引访问，第一个元素的索引为0，最后一个元素的索引为-1，也可以指定范围，包含范围内的第一个元素和范围最后一个之前的元素。有时，希望将某些操作移到计算图之外，例如：y是x的函数，z是x和y的函数，计算z关于x的梯度，但是希望将y视为常数，只考虑x在y被计算后发挥的作用。
2026-07-27 15:05:33
245
原创 动手学深度学习 第1章引言
这时就需要用到机器学习，输入是图片和文本对，每张图片都带有正确的标签，我们开发一个程序，输出由很多参数决定，让程序自己根据我们的数据选择最佳的参数，使得程序在完成猫狗识别达到最优性能。如果输入的样本之间没有联系，之前的方法都没有什么问题，但是如果输入是连续的，就需要模型具有记忆功能。强化学习就是使用机器学习并与环境进行交互，智能体在一系列时间步骤上与环境交互，在每个特定的时间点上，智能体从环境接收一些观察，然后必须选择一个动作，然后通过某种机制观测环境，最后智能体从环境中获得奖励，此后新的一轮开始。
2026-07-20 14:48:55
183
2
原创 开源大模型的小白实操
本文介绍了开源大模型与非开源大模型的区别，并详细讲解了如何使用开源模型。非开源模型（如GPT系列）由大公司开发，性能强但存在隐私风险；开源模型（如Llama3、Qwen系列）可本地部署，数据隐私有保障但技术门槛较高。文章通过Qwen2.5-7B-Instruct模型为例，演示了从魔塔社区下载模型、安装依赖库到加载模型的完整流程。
2026-03-28 18:55:36
1242
1
原创 Interpreting Attention Heads for Image-to-Text Information Flow in Large Vision–Language Models阅读笔记
本文提出了一种基于注意力头归因（Head Attribution）的技术，用于解释大型视觉语言模型（LVLMs）中图像到文本的信息流机制。研究发现，特定注意力头子集负责跨模态信息传递，且这些头的选择由图像语义内容而非视觉外观决定。通过消融实验和线性回归建模，作者验证了信息流遵循结构化过程：文本信息先传播到角色相关token，图像信息则嵌入对象相关token。该方法通过忠实度和完备性指标证明其有效性，为理解LVLMs的底层机制提供了新视角。
2026-03-25 21:09:58
370
原创 一堂课带你走进生成式人工智能的原理
本文揭示了生成式AI（如ChatGPT、Gemini等）的核心工作原理。这些AI本质上是通过"文字接龙"方式运作的语言模型：根据输入文本预测最可能的下一个词元（Token），循环迭代生成完整回答。模型通过海量参数（百亿级别）和三个阶段训练（预训练、微调、强化学习）来优化预测能力。文章还解释了AI如何实现多轮对话（记录对话历史作为上下文）及处理多模态信息（将图像/音频编码为Token序列）。尽管功能强大，其核心仍是基于结构化Token的序列预测机制，通过组合有限基本单位生成无限复杂内容。
2026-03-25 14:39:22
706
1
原创 Your Large Vision-Language Model Only Needs A Few Attention Heads For Visual Grounding阅读笔记
Kang等人(2025)在CVPR发表的论文发现，冻结状态的大型视觉语言模型(LVLMs)中仅需3个特定的注意力头(localization heads)就能实现与微调方法相当的视觉定位性能。通过分析注意力总和(attention sum)和空间熵(spatial entropy)两个指标，作者筛选出能够精确捕捉文本相关图像区域的注意力头，并提出无需训练的视觉定位框架。这一发现表明LVLMs在生成文本时已隐含对图像的理解能力，其内部注意力机制天然具备物体定位功能。该方法避免了传统视觉定位任务所需的微调和额外
2026-03-24 18:55:18
512
原创 第1.1章 向量和空间
本文介绍了向量的基本概念与性质。向量是由数排成的列（默认列向量），可表示为有向线段或空间中的点。定义了向量加法和数乘运算，并强调线性空间是仅保留这两种运算的抽象空间。基底是一组能唯一表示空间中所有向量的线性无关向量组，其个数决定了空间的维数。坐标依赖于基底的选择，通常默认使用标准基底。文中还区分了线性空间与定义了长度角度的内积空间，指出线性空间不包含旋转等操作。通过基底和坐标的概念，为抽象向量提供了具体表示方法。
2025-10-22 17:52:35
1010
原创 第1章 用空间思维来理解向量、矩阵和行列式
用空间思维理解线性代数具有多重优势：首先，空间想象能提供直观的图形辅助，使抽象概念更易理解；其次，线性代数本身就是处理空间问题的工具，可将现实空间和数值数据抽象为向量空间进行处理；再者，线性代数研究的直线、平面等对象，可以通过局部近似的方法应用于处理现实中的曲线曲面问题。因此，运用空间思维能更有效地学习和应用线性代数。
2025-10-13 19:08:59
275
1
原创 线性代数前言
摘要 作者计划重新系统学习线性代数，将每日学习心得整理成文。此前大一学习时以应试为主，理解不深且大部分内容遗忘。希望通过写作方式既巩固知识，又能自我监督。文章开篇引用老子名言明志，同时坦言可能因学习中断而停更，展现了务实的学习态度。这一系列文章旨在为后续学习奠定基础，体现了作者对知识本质理解的追求。
2025-10-13 18:41:02
151
原创 Python编程学习笔记
本文主要是作者我自己关于python学习时自己做的一些笔记，可供大家参考。当然由于水平有限，如有错误或不当之处还望大家指正。我学习python主要参考书籍为python编程从入门到实践这本书（俗称蟒蛇书），根据个人的学习经历，这本书还是非常适合小白的。另外关于python环境配置的问题，大家可以不完全参考我的环境配置，我这样配置完全是因为便于我个人之后的一些学习。谢谢大家，初次分享笔记，希望可以帮助到大家。
2023-08-03 08:57:51
494
2
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人