- 博客(9)
- 收藏
- 关注
原创 Tokenizer及大模型使用
特点最小单位:完整的单词。词汇表:需预定义固定大小的词表,包含所有可能单词。OOV处理:未登录词替换为[UNK],导致信息丢失。示例→"我爱自然语言处理"→缺点:OOV问题严重(有很多不在词汇标中的词),词汇表庞大。
2025-08-15 19:37:34
872
原创 大模型开发基础知识之自注意力机制和多头注意力机制及其代码实现
Self-Attention Mechanism,自注意力机制,用于捕捉序列数据内部依赖关系的关键技术。它在NLP和CV中非常重要,尤其是Transformer。自注意力机制通过计算输入数据中每个位置与其他位置的相关性,来调整每个位置的信息表示。
2025-08-13 18:57:03
622
原创 卷积神经网络的卷积与池化
池化层的主要作用是对非线性激活后的结果进行降采样,以减少参数的数量,避免过拟合,并提高模型的处理速度,提高计算速度,同时提高所提取特征的鲁棒性。图片的每个通道会对应一个卷积核,得到一个特质图,最后将所有该核得到特征图对应位置加起来得到了该卷积核的特征图。卷积后图像大小计算公式,其中WH,为原图像的宽和高,F为卷积核的大小,P为填充大小,S为步长。在torch中的训练时数组表示为:(批次样本数量,图像的通道数,图像的宽,图像的高)最终输出为:(样本批次数量,卷积核的数量,卷积后的宽,卷积后的高)。
2025-07-21 20:00:53
355
原创 Day25-26学习总结
notnull()用于检测 DataFrame 或 Series 中的非空值,返回一个布尔值的 DataFrame 或 Series。isnull()用于检测 DataFrame 或 Series 中的空值,返回一个布尔值的 DataFrame 或 Series。how:合并方式,可以是 ‘inner’、‘outer’、‘left’ 或 ‘right’。left_on 和 right_on:分别指定左侧和右侧 DataFrame 的连接列名。on:用于连接的列名。by:列的标签或列的标签列表。
2025-04-09 22:50:45
696
原创 Day22-23 学习笔记
最近两天学习了pandas库中的数据结构,以下为我的一些学习笔记。pandas的用处巨大,可以很方便的处理数据。学好pandas更加有利于后面的学习。
2025-04-02 22:47:58
330
原创 Day17-20学习总结
近几天学习了python中的numpy库和matplotlib的部分内容,学习到了好用的第三方库,有利于后面的学习。NumPy是Python的核心科学计算库,提供高效的多维数组(ndarray)和数学工具。其核心功能包括数组创建(zeros/arange)、变形(reshape)、切片/索引(布尔/高级索引)、广播机制及矩阵运算(dot/matmul)。数组支持统计函数(mean/var)和线性代数操作(det)。
2025-03-30 13:46:44
976
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人
RSS订阅