- 博客(33)
- 收藏
- 关注
RSS订阅原创 day32_注意力机制与Transformer入门
知识点一句话总结注意力机制让模型学会把注意力放在数据中最具辨识度的地方QKVQ=查询、K=键索引、V=内容，通过QK相似度 + VW加权求和得到强化QRNN缺陷串行效率低 + 长序列遗忘问题注意力优势并行提取特征 + 关注关键信息Seq2Seq编码器处理输入生成中间语义C，解码器自回归生成输出Seq2Seq+注意力Q=词嵌入后张量、K=上一隐藏层输出、V=中间语义C2017年Google提出，用纯注意力机制取代RNN，解决并行和长距离依赖问题Transformer架构。
2026-05-26 20:37:21
396
原创 day31_RNN及其变体
知识点一句话总结RNN循环神经网络循环机制：上一时间步隐藏层输出作为下一时间步输入RNN输入输出分类传统RNN缺点长序列导致梯度消失或爆炸，短序列任务表现优异LSTM核心门控机制（遗忘门、输入门、输出门）+ 细胞状态LSTM优势有效缓解长序列梯度问题，但训练计算量大GRU核心2个门（更新门、重置门），比LSTM更简单GRU优势效果接近LSTM，计算复杂度更小Bi-LSTM双向处理，将正向和反向结果拼接RNN共同局限不可并行计算，是未来发展的瓶颈。
2026-05-25 20:16:04
426
原创 day30_fasttext分类任务
FastText是NLP领域高效实用的工具包，核心价值在于兼顾精度与速度。其三层架构简单直接，通过层次Softmax解决多分类计算量大的问题，通过负采样降低梯度下降的计算开销，同时用n-gram特征弥补无法捕捉词序的缺陷。优化方向方法效果数据质量预处理标点符号precision明显提升训练轮数precision从0.12→0.52学习率收敛更快词序特征多标签分类loss=‘ova’正确处理多标签场景自动调参autotune自动搜索最优超参数。
2026-05-25 19:40:32
452
原创 day29_NLP概念与文本预处理
userdict.txt 内容如下：哈基米南北绿 5 n""" sentence = "哈基米南北绿豆浆是九阳出的一款豆浆" # CASE1：不使用自定义词典 data1 = jieba . lcut(sentence) print(f"不使用自定义词典： {
2026-05-22 20:14:04
449
原创 day28_决策树与集成学习
集成学习是机器学习中的一种思想，通过多个模型的组合形成一个精度更高的模型。参与组合的模型成为弱学习器随机森林是基于Bagging思想实现的一种集成学习算法，采用决策树作为弱学习器。训练过程1.有放回地产生训练样本2.随机挑选n个特征3.训练决策树4.重复1-3步训练多棵树5.平权投票，多数表决输出预测结果CART决策树CART就是不停做二分选择题，层层筛选数据，分得越纯越好。是所有主流树模型（随机森林、XGBoost、LightGBM）的老祖宗集成学习。
2026-05-21 20:23:08
460
原创 day27_卷积神经网络与循环神经网络入门
卷积神经网络（Convolutional Neural Network, CNN）是含有卷积层的神经网络，卷积层的作用是自动学习、提取图像的特征。层次作用卷积层（CONV）负责提取图像中的局部特征池化层（POOL）大幅降低参数量级（降维）全连接层（FC）输出CNN模型的预测结果给定一张图片，判断图片里是什么东西。最左边是数据输入层（去均值、归一化等预处理），中间经过卷积层+激活层+池化层的循环叠加，最右边全连接层输出结果。循环神经网络（Recurrent Neural Network, RNN）
2026-05-19 20:14:34
421
原创 day25_人工神经网络_优化器与正则化方法
提升模型在新样本上的泛化能力，也就是减少过拟合。神经网络在参数多，数据少的情况下，过拟合是常态。范数惩罚（L1/L2）Dropout（随机失活）Batch Normalization（批量归一化）知识点一句话总结指数加权平均距离越远权重越小，用来平滑序列数据Momentum对梯度做 EWA，赋予模型"下山惯性"AdaGrad对每个参数自适应学习率，但易早衰RMSProp用 EWA 替代累加，修复 AdaGrad 早衰问题AdamMomentum + RMSProp，当代默认首选StepLR。
2026-05-16 20:31:07
435
原创 day24_人工神经网络_损失函数
损失函数（Loss Function）在深度学习中是用来衡量模型参数质量的函数，衡量方式是比较网络输出和真实输出的差异。损失越小，模型预测越准；损失越大，模型预测越离谱。损失函数公式优点缺点−∑yklogSfxk−∑yklogSfxk概率解释，强梯度惩罚需要 softmax 配合BCELoss−ylogy1−ylog1−y−ylogy1−ylog1−y))二分类专用。
2026-05-15 19:46:33
369
原创 day23_PyTorch自动微分与神经网络（上）
自动微分（Automatic Differentiation, AD）是 PyTorch 的核心功能之一，通过模块实现。它的作用就是帮我们自动计算梯度，不用再手动去推导数公式了。在训练神经网络时，最常用的算法就是反向传播。简单说就是：模型做出预测 → 计算损失 → 根据损失反向调整每个参数的"责任大小"（即梯度）→ 更新参数。这个"计算梯度"的步骤，PyTorch 的autograd全自动搞定。backward()— 反向传播，计算梯度.grad— 查看某个张量的梯度值⚠️重要限制。
2026-05-13 14:52:47
638
1
原创 day22_深度学习入门与pytorch
PyTorch 是基于 Python 的深度学习框架，核心概念是张量（Tensor）。它提供了灵活高效的工具，用于构建、训练和部署深度学习模型。张量（Tensor）是 PyTorch 的核心数据抽象，简单理解就是多维数组。它与 NumPy 的ndarray非常相似，但多了一个杀手锏——支持GPU加速（CUDA）。维度名称0维标量（scalar）1维向量（vector）2维矩阵（matrix）3维及以上张量（tensor）🔑关键区别。
2026-05-13 14:29:56
496
原创 day21_聚类算法
我发现AI写的比我好多了......我将化身审稿人本篇文章主要内容是由hermes接入DeepSeek-V4-flash生成的。我负责给定知识框架、知识点。优化内容、排版。部分示例图片用豆包生成。
2026-05-13 11:22:21
421
原创 day20_逻辑回归
逻辑回归是一种分类模型，把线性回归的结果，作为逻辑回归的输入。逻辑回归的输出是0~1之间的值。通常，逻辑回归用来解决问题，比如预测某个人是否患病，某段话语气是否正向。
2026-05-13 09:27:59
458
原创 day18_KNN算法
如果一个样本，在特征空间中的k个最相似的样本大多都属于一个类别，则该样本也属于这个类别K-近邻算法（K Nearest Neighboor），通过收集距离待预测目标点距离最近的K个样本点的信息，用来预测目标点的数据。让我们从一个判断电影类型的案例讲起。现在我们给计算机提供了以下数据，计算机应该以什么为依据来判断，电影《唐人街探案》属于什么类型的电影呢？序号电影名称搞笑镜头拥抱镜头打斗镜头电影类型1功夫熊猫39031喜剧片2叶问33265动作片3伦敦陷落23。
2026-05-07 19:43:16
384
原创 day17_机器学习概述
只介绍概念，不在这一篇细讲获取数据数据预处理缺失值处理、异常值处理等特征工程特征提取、特征预处理、特征降维模型训练线性回归、逻辑回归、决策树、GBDT等模型评估回归评测指标、分类评测指标、聚类评测指标。
2026-04-29 20:11:50
313
原创 day16_大模型提示词工程进阶
在提示词中，有三个角色，他们分别为其中，System角色的作用是设定上下文，为模型定一个全局的规则User角色就是用户输入的内容Assistant就是模型的回复。
2026-04-17 19:31:16
246
原创 day15_提示词工程基础
通过之前的文章，我们基本掌握了学习AI大模型所需的Python能力——至少我们能大致看懂代码了。从这篇文章开始，我们正式开始进入AI大模型的学习。会先简单带大家对提示词入个门，然后用商业化的工具（比如coze、dify）先做几个简单的项目，让大家重燃对学习的兴趣！之后，我们再深入的去讲机器学习等枯燥的内容。
2026-04-13 20:09:36
90
原创 day14_Python进阶_操作数据库
本篇内容不用死记硬背，以认识为主。目标是后续练习项目用到的时候，知道这两个库有什么能力。至于如何部署在本地MySQL与Redis，这里不单独赘述，有兴趣可以自行找一下教程。嫌麻烦可以试一下直接一键部署。
2026-04-13 19:31:57
231
原创 day13_Python进阶_多任务编程
在同一时间内，同时进行多项任务，我们可以称为多任务。多任务有两个概念，一个叫并发，另一个叫并行。并发：在一段时间内快速交替去执行多个任务，本质上是一个单位在执行多个任务。并行：在一段时间内，多个单位同时执行多个任务。
2026-04-06 21:26:48
364
原创 day12_Python进阶_网络编程
IP地址IP地址就是分配给网络设备上网使用的数字标签，能够标识网络中唯一的一台设备。IP地址分为两类：IPv4和IPv6，目前使用的是IPv4端口号在计算机通信中，通过IP地址找到电脑。但是电脑上有许多软件，通信如何知道应该把数据传输给哪个软件呢？此时系统给每个软件分配一个“端口号”，这样数据通过IP地址找到电脑，再通过找到对应的软件，就可以传输数据了。协议在我们知道了设备的IP地址与端口号后，我们就可以随意地传输数据吗？答案当然是不行的，我们还需要配合“协议”。本篇文章主要讲的是TCP协议。
2026-04-03 20:46:19
320
原创 day11_Python进阶_闭包与装饰器
局部作用域中可以访问全局变量与局部变量，全局作用域中只可以访问全局变量，不能访问局部变量。因为局部变量在，会自动回收。
2026-04-02 20:42:09
216
原创 day10_Python进阶_面向对象高级
同一类事物的各种不同形态，就是多态。比方说，军人、医生、老师，他们都是人，也就是“同一种事物”。他们都有一种共同的行为，就是“工作”。但是在“工作”时，他们各自的内容又是不一样的。
2026-04-02 19:38:15
349
原创 day09_Python进阶——面向对象基础
定义类——人类# 在类里面定义方法print('这是一个人类')# 根据类创建一个对象魔法方法是Python中以双下划线__开头和结尾的特殊方法（如__init__），不需要手动调用，Python会在特定场景下自动触发执行。
2026-03-30 21:08:15
210
原创 day08_基于Streamlit与Ollama部署简易问答机器人
通过该项目的实践，我们可以发现，之前讲到的容器、函数、判断、循环等，其实是Python的“常识”。你没有办法去标识哪一些内容是重点，因为到了真正的开发中，这些知识的应用是十分普遍的。在现在AI开发的时代，是降低了初级开发人员入行的门槛的，因此我们不一定需要能够完全独立敲出以上的代码。但是重点是，我们需要能够看懂并理解以上代码。本篇文章也是在7天枯燥的理论知识学习后，再次通过一个实操项目，试图让大家维持住对AI的兴趣。毕竟我一直强调那句话——兴趣就是最好的老师。
2026-03-30 20:38:56
395
原创 day07_Python的异常捕获、文件操作、模块与包
当程序产生异常的时候，程序会在异常发生的位置中断，导致后续的代码都无法运行。然而，在实际的开发过程中，我们往往会需要兼容很多潜在的异常。比方说，假如我们开发的程序希望用户输入一个数字，但是用户输入了一个特殊符号，我们应该抛出这个问题给用户，然后程序继续正常运行，而不是直接杀死整个程序。因此，Python提供了捕获并处理异常的方法。
2026-03-24 20:26:22
195
原创 day05_Python中的五大容器之——元组、集合与字典
键(key)禁止重复：存储的元素中，他的key必须是唯一的，因此key只能存储不可变类型。由于元组不可修改的特性，元组支持的操作相对少。如增加、修改与删除操作，元组都不支持。存储键值对(key/value)：存储的格式为{'性别':'男'}格式的键值对。语法：序列[开始索引:结束位置:步长]，如果步长为负数，则是倒着切片。由于元组是有序的，因此他的遍历方法跟之前提到的字符串和列表比较类似。之前讲过，列表、字符串、元组都是有序的，因此都可以做切片操作。由于集合的无序性，无法通过索引遍历。
2026-03-23 20:33:21
221
原创 day04_Python中的五大容器之——字符串与列表
在描述容器特点的时候，其中一个特点为“是否有序”。有序的容器，可以使用下标按索引指定查询容器内的元素。
2026-03-20 20:42:56
170
原创 day03_判断语句与循环语句
昨天主要讲的是环境的部署以及python的一些基础语法和概念。今天会讲python中的判断语句与循环语句。在今天的内容中，我们会首次接触到一个叫“”的概念。详情会在下面讲到，如果觉得难以理解，就简单的就可以。不必去纠结为什么代码的格式要这样写，因为编程语言是人做出来的，开发者规定了要这样写，我们就照着案例写就可以了。
2026-03-19 21:03:14
300
原创 day02_Python开发环境部署与Python基础语法
本篇文章主要讲如何部署便于开发Python的环境，以及一些简单的Python入门语法。
2026-03-17 21:14:33
414
原创 day01_基于Ollama+chatbox本地部署个模型玩玩
笔者认为，学习一项技能——尤其是AI这种快速迭代，发展迅速的技能，一定是需要长期的努力的。而兴趣，就是每个人最好的导师。因此，我认为大多数人想要坚持下去，激发自身对学习的兴趣不失为一种好方案。我这个专栏，面向的是对编程一窍不通的小白，第一篇文章也不讲底层的、枯燥的知识，而是直接教大家一个简单的应用，希望能引出大家对AI的学习兴趣。
2026-03-16 20:41:07
333
原创 WIN11部署OpenClaw并选择DeepSeek作为模型
最近OpenClaw比较火，照着网上几个教程部署了下，各自都会碰上一点问题。折腾了几个小时终于搞定，写一篇教程帮助可能跟我一样需求的人。本教程只是部署，进阶使用OpenClaw可能会有潜在的安全问题，建议大家使用时保持谨慎，不要用来路不明的插件。
2026-03-11 15:43:31
896
1
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人