- 博客(7)
- 收藏
- 关注
原创 transformer例子
在我们的例子中,我们可以假设有两个头,每个头的 W_Q,W_K,W_V 不同,从而得到不同的关注模式,最后将各个头的输出拼接起来,进一步丰富表示。为了更好地理解 Transformer 中的自注意力机制,通过一句简单的中文句子“我爱你”为例,逐步解释 Q(查询)、K(键)、V(值)矩阵的计算和作用。通过自注意力机制,我们为每个词生成了新的表示,这些表示不仅包含了该词自身的信息,还融合了与其他词的相关信息。:融合了“你”对“我”和“爱”的关注,体现了“你”在被“我”所“爱”。为 4x4 的单位矩阵。
2024-12-04 11:00:39
592
原创 线程 、协程 , 进程—— 多任务编程的三个概念的区别
进程是操作系统中运行的一个独立程序,每个进程都有自己独立的内存空间数据和系统资源(如文件句柄、网络连接等)。进程可以包含多个线程,进程间相互独立,彼此之间的资源不共享,通常通过进程间通信(如管道、信号等)来交换数据。线程是进程中的一个执行单位,一个进程可以包含多个线程,线程共享进程的内存和资源(如全局变量、文件描述符等)。线程之间可以直接共享数据,但由于共享同一地址空间,因此线程间的同步控制(如锁)变得非常重要,以避免数据竞争和不一致。协程。
2024-09-24 00:12:12
746
1
原创 范数的概念
向量的ℓp\ell_pℓp范数通用公式为∥x∥p∑i1n∣xi∣p1p∥x∥p∑i1n∣xi∣p1/p。矩阵的ℓp\ell_pℓp范数通用公式为∥A∥p∑ij∣Aij∣p1p∥A∥p∑ij∣Aij∣p1/p。特定范数(如ℓ1\ell_1ℓ1范数、ℓ2\ell_2ℓ2范数、ℓ∞ℓ∞范数等)是这些通用公式的特殊情况。
2024-06-27 11:30:47
1008
1
原创 函数指针与回调函数
函数指针函数指针的定义方式为:这意味着 Fun1 是一个指针,指向一个接受一个 int 类型的参数并返回一个 int 类型结果的函数。
2024-02-23 11:08:56
337
1
原创 HAL库 UART通信
先判断中断来源,再将收到的数据以符号变量printf出,再设定一个16位的USART1_RX_STA变量,该变量的低14位负责接收数据并存储到数组中,而高两位分别作为标志是否接收到回车键(/r/n,0x0d 0x0a)串口中断执行操作属于非阻塞通信,阻塞通信是一种同步通信方式,其中数据传输调用会阻塞调用线程,直到操作完成。:实现一个中断回调函数,这个函数将会在接收到串口数据时被自动调用。这个函数通常需要传入一个指向接收缓冲区的指针和希望接收的字节数。的回调函数,你可以在这个函数内实现你的数据处理逻辑。
2024-02-18 09:39:09
2350
1
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人