自定义博客皮肤VIP专享

*博客头图:

格式为PNG、JPG,宽度*高度大于1920*100像素,不超过2MB,主视觉建议放在右侧,请参照线上博客头图

请上传大于1920*100像素的图片!

博客底图:

图片格式为PNG、JPG,不超过1MB,可上下左右平铺至整个背景

栏目图:

图片格式为PNG、JPG,图片宽度*高度为300*38像素,不超过0.5MB

主标题颜色:

RGB颜色,例如:#AFAFAF

Hover:

RGB颜色,例如:#AFAFAF

副标题颜色:

RGB颜色,例如:#AFAFAF

自定义博客皮肤

-+
  • 博客(9)
  • 收藏
  • 关注

原创 Tokenizer及大模型使用

特点最小单位:完整的单词。词汇表:需预定义固定大小的词表,包含所有可能单词。OOV处理:未登录词替换为[UNK],导致信息丢失。示例→"我爱自然语言处理"→缺点:OOV问题严重(有很多不在词汇标中的词),词汇表庞大。

2025-08-15 19:37:34 872

原创 大模型开发基础知识之自注意力机制和多头注意力机制及其代码实现

Self-Attention Mechanism,自注意力机制,用于捕捉序列数据内部依赖关系的关键技术。它在NLP和CV中非常重要,尤其是Transformer。自注意力机制通过计算输入数据中每个位置与其他位置的相关性,来调整每个位置的信息表示。

2025-08-13 18:57:03 622

原创 卷积神经网络的卷积与池化

池化层的主要作用是对非线性激活后的结果进行降采样,以减少参数的数量,避免过拟合,并提高模型的处理速度,提高计算速度,同时提高所提取特征的鲁棒性。图片的每个通道会对应一个卷积核,得到一个特质图,最后将所有该核得到特征图对应位置加起来得到了该卷积核的特征图。卷积后图像大小计算公式,其中WH,为原图像的宽和高,F为卷积核的大小,P为填充大小,S为步长。在torch中的训练时数组表示为:(批次样本数量,图像的通道数,图像的宽,图像的高)最终输出为:(样本批次数量,卷积核的数量,卷积后的宽,卷积后的高)。

2025-07-21 20:00:53 355

原创 机器学习Day 1-3学习笔记

机器学习Day:1-4学习笔记。

2025-05-12 19:21:14 752

原创 Day25-26学习总结

notnull()用于检测 DataFrame 或 Series 中的非空值,返回一个布尔值的 DataFrame 或 Series。isnull()用于检测 DataFrame 或 Series 中的空值,返回一个布尔值的 DataFrame 或 Series。how:合并方式,可以是 ‘inner’、‘outer’、‘left’ 或 ‘right’。left_on 和 right_on:分别指定左侧和右侧 DataFrame 的连接列名。on:用于连接的列名。by:列的标签或列的标签列表。

2025-04-09 22:50:45 696

原创 Day24 学习总结

今天学的的内容为删除数据,行索引操作及pands中的部分函数。

2025-04-06 14:58:19 487

原创 Day22-23 学习笔记

最近两天学习了pandas库中的数据结构,以下为我的一些学习笔记。pandas的用处巨大,可以很方便的处理数据。学好pandas更加有利于后面的学习。

2025-04-02 22:47:58 330

原创 Day21 学习笔记

【代码】【无标题】

2025-04-01 13:15:23 614

原创 Day17-20学习总结

近几天学习了python中的numpy库和matplotlib的部分内容,学习到了好用的第三方库,有利于后面的学习。NumPy是Python的核心科学计算库,提供高效的多维数组(ndarray)和数学工具。其核心功能包括数组创建(zeros/arange)、变形(reshape)、切片/索引(布尔/高级索引)、广播机制及矩阵运算(dot/matmul)。数组支持统计函数(mean/var)和线性代数操作(det)。

2025-03-30 13:46:44 976

空空如也

空空如也

TA创建的收藏夹 TA关注的收藏夹

TA关注的人

提示
确定要删除当前文章?
取消 删除