牛牛马马_-优快云博客

原创 Transformer

RNN/LSTM串行计算无法并行、长距离依赖丢失，这是它们的根本局限。Transformer 用自注意力让所有位置直接交互，实现并行训练和长距离建模，一举解决两大痛点。多头注意力提供多视角表达，位置编码补足顺序信息，编/解码器分工完成理解与生成，残差与 LayerNorm 保证深层可训练。组件一句话作用自注意力按相关性加权融合所有位置信息多头注意力多视角并行建模不同关系位置编码注入顺序信息缩放因子dk\sqrt{d_k}dk防止 softmax 梯度消失掩码。

2026-07-15 11:00:53 318

原创 transformer-1(编码器）

Self-Attention（SA） Mechanism，自注意力机制，用于捕捉序列数据内部依赖关系的关键技术。

2025-10-13 20:06:21 1335

原创 opencv-1

对于彩色图像的每个像素，它会按照一定的权重去乘以每个通道的像素值，并将其相加，得到最后的值就是灰度图像中对应位置的像素值。本实验中，权重的比例为： R乘以0.299，G乘以0.587，B乘以0.114，这是经过大量实验得到的一个权重比例，也是一个比较常用的权重比例。对于彩色图像的每个像素，它会将R、G、B三个通道的像素值全部加起来，然后再除以三，得到的平均值就是灰度图像中对应位置的像素值。对于彩色图像的每个像素，它会从R、G、B三个通道的值中选出最大的一个，并将其作为灰度图像中对应位置的像素值。

2025-10-13 19:06:23 649

原创 Python基础_9-运算符

功能：对于每一位，如果a和b的相应位不同（一个为1，另一个为0），则结果位为1，否则为0。功能：对于每一位，只要a和b中至少有一位是1，则结果位为1，否则为0。功能：对于每一位，如果a和b的相应位都是1，则结果位为1，否则为0。功能：对操作数a的每一个二进制位进行取反，即将1变为0，0变为1。用于比较两个值并返回布尔值 True 或 False。基础类型：值和类型都相同时，存在一个内存空间里面。基础类型：类型不同时就需要存放在两个内存空间里。：判断值是否不存在于序列中。：判断值是否存在于序列中。

2025-04-05 12:15:47 706

原创 Python基础_8-可变类型不可变类型类型判断类型转换

Python中，变量的值分为可变（mutable）或不可变（immutable），该特征决定了变量在赋值、修改时的行为和性能。

2025-04-05 11:55:40 863 3

原创 Python基础_6-集合

x in s 判断元素 x 是否在集合 s 中，存在返回 True，不存在返回 False。set的元素值必须是不可变的，set中可以存储int、str、tuple等不可变类型，但。s.pop()：对集合进行无序的排列，然后将这个无序排列集合的左面第一个元素进行删除。s.discard( x )：将元素 x 从集合 s 中移除，不存在也不会发生错误。s.remove( x )：将元素 x 从集合 s 中移除，不存在会发生错误。将元素 x 添加到集合 s 中，如果元素已存在，则不进行任何操作。

2025-04-05 11:47:01 804

原创 Python基础_4-字典

字典以键(key)-值(value)对的形式进行映射，键值对用冒号分割，对之间用逗号分割。in用于判断一个键是否存在于字典中,存在返回True, 否则返回False。能删单一的元素也能清空字典，显式删除一个字典用del命令。键必须不可变，可以用数字、字符串或元组，列表不行。不允许同一个键出现两次，否则后一个覆盖前一个。字典的数据用键进行索引，不能用整数进行索引。字典的键只能用不可变类型，且不能重复。字典是可变容器，可存储任意类型对象。键存在, 会改变键对应的值。添加和修改字典的元素。如果键不存在，会报错。

2025-04-05 11:38:25 961