- 博客(10)
- 收藏
- 关注
原创 注意力机制
query,value,key都代表句子中的每个单词;如下图,左边代表key/value,右边代表query权重系数指句中每个词与当前query代表的这个词关联程度。
2026-07-29 13:49:14
355
原创 神经网络(前、反向传播)
信号从输入层传到输出层,该网络的传播方式分为前向传播和反向传播。将信号传入模型,再经过运算得到输出。关系图如下:设w11,w13分别为x1,x2对h1的权重,w10为h1的偏置,通过线性变换得到传入h1的信号为:h2,o1,o2同理可得与前向传播恰恰相反,用于传输误差,优化模型(更新权重参数)。
2025-08-11 14:56:53
878
原创 全连接神经网络
常用图像大小通常达到224 *224*3或者更大,可见参数太多,全连接网络不适合复杂数据处理。此外,全连接网络只能获取全局信息,没有感知局部信息的能力。每个神经元都分别和上一层的所有神经元连接,构成全连接层,构成的网络叫全连接神经网络。神经网络作用:特征提取。假设网络有5个隐藏层,每个隐藏层有50个神经元。中间的隐藏层进行一层层的特征提取。补充:卷积神经网络构成。
2025-08-10 20:26:55
488
原创 池化层运算
计算方法:和卷积核一样,通过滑动窗口计算。平均池化:窗口内计算平均值输出;最大池化:最大值输出。最大池化作用:保留窗口最强信号输出,突出图像关键信息;平均池化作用:均匀的特征表示,有助于保留背景。池化层作用:所有特征信息浓缩为一个输出,提升平移不变性。池化后输出尺寸减小。
2025-08-10 17:05:32
309
原创 卷积核运算
步长:步长为几,每次卷积核就移动几格。步长越大,提取特征越稀疏,生成的特征图越小,运算量更小。压缩信息,减小输出尺寸,就需要较大的步长。经过卷积,图像逐渐变小。卷积核本质上是一个小型的矩阵(如3×3、5×5等),在处理数据时,它会与输入数据的局部区域进行卷积运算(即逐元素相乘后求和)。padding填充:padding为1,图像周围填充1个像素(四周多加一层)。每个通道分别卷积运算并求和,一个卷积核与输入卷积得到一个单通道输出。不同时,要分别代入宽、高计算。多个卷积核叠加构成卷积层。
2025-08-10 14:00:19
489
原创 Pycharm 安装库的方法
使用python 环境安装库,首先电脑只能有一个版本的python ,最好选择3.8-3.10的版本,版本太高会不兼容。并且注意不要把Python 下在其他程序下,也不要修改下载路径。打开pycharm,选择python解释器,再在左上角“主菜单”点击“设置”➡️“项目”➡️“Python 解释器”,即可查看软件包是否安装成功。若没有,可尝试更换python解释器。注意:解释器不要用PyTorch ,它只是深度学习框架,它本身也是一个包。Windows 系统下同时按“win+R”,输入cmd,即可安装库。
2025-08-02 14:58:29
472
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人
RSS订阅