- 博客(8)
- 资源 (1)
- 收藏
- 关注
RSS订阅原创 LLM入门学习——Batch Normalization
回答：总结来说，Batch Normalization是2015年一篇论文中提出的数据归一化方法。它的作用：加快训练收敛速度，使训练过程更加稳定，尽量避免梯度爆炸或者梯度消失。次要作用：起到一定的正则化作用，限制模型复杂度，减少过拟合。数据归一化指的是将数据按照比例放缩到特定的范围内，消除量纲和尺度之间的差异，毕竟让你的输入数据的值都在一个尺度之内，模型的参数也能够更好得配置，加快收敛速度。数据归一化的方法有非常多，这里不阐述。
2025-03-13 16:15:26
447
原创 LLM入门学习——Transformer
但是在往前继续遇到下一个Multi-Head Attention开始计算的时候，这里不一样了，这里的V的提供方还是Decoder的X2，但是这里的Q和K的提供方不是Decoder的X2了，而是Encoder那边输出的结果，也可以间接看做其提供方变成了X。关于单词位置Embedding的方案，也是一个研究点，有很多相关的研究。目的上是计算，Q的每个行向量和K的每个行向量之间的相似度，可以把他们的计算结果(4,4)中的每一行中的 四个结果值 看做是 一个词 和 包括它自己在内的四个词 分别计算出的相似度。
2025-01-20 23:23:42
876
原创 立创3D导入AD+AD的板子颜色改变
立创3D导入AD+AD的板子颜色改变文章目录立创3D导入AD+AD的板子颜色改变介绍结果图展示环境情况3D板子换颜色3D模型的寻找3D模型的导入总结介绍AD中默认的绿色板子一点逼格都没有，还缺了很多3D封装，想美化下结果图展示环境情况solidworks 2021Altium Designer 20193D板子换颜色到PCB界面，大写模式下按L(如果你没有把这个快捷键重定义)，会出现如下界面，按照下面表明的设置，主要是表层和底层的颜色，当然最上面的焊盘颜色也可以更改下，为了更符合实际
2022-03-10 09:29:28
3076
3
原创 串口通信协议
串口通信协议目录文章目录串口通信协议目录什么是串口通信协议串口通信协议有什么特点它的主要协议内容有哪些STM32是如果实现串口通信的STM32CubeMX应该如何配置串口通信协议HAL库有哪些串口通信相关的主要函数什么是串口通信协议嵌入式开发中，UART串口通信协议是我们常用的通信协议（UART、I2C、SPI等）之一，全称叫做通用异步收发传输器（Universal Asynchronous Receiver/Transmitter）。工作原理是将传输数据的每个字符一位接一位地传输，它能将要传输的资
2022-03-05 16:52:19
6947
蓝桥杯嵌入式第六届省赛程序题代码
2022-03-29
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人