java_man1的博客

解析Transformer中正余弦位置编码的设计原理。文章首先指出绝对位置编码和可学习位置编码的缺陷：通过线性旋转实现相对位置建模，支持任意长度外推。重点解析10000作为底数的工程考量——该值能平衡高频维度对局部位置的细粒度感知与低频维度对长距离关系的宏观区分，是理论最优解。最后用钟表齿轮类比解释不同频率维度协同定位的机制

集合元素三大特性（确定性、互异性、无序性）元素与集合的关系（∈、∉）集合间的基本关系（子集、真子集、空集、相等）集合基本运算（交集、并集、补集）

三维旋转矩阵是描述空间中点绕轴旋转的正交矩阵，满足转置等于逆且行列式为1。基础旋转矩阵包括绕X、Y、Z轴的三种形式，遵循"绕谁谁不动"原则，其中Y轴旋转符号特殊。复合旋转采用Z-Y-X欧拉角顺序。罗德里格斯公式可计算绕任意单位向量的旋转。应用时将旋转矩阵左乘点坐标即可实现空间变换。这些矩阵在计算机图形学、机器人学等领域有重要应用。

本文系统阐述了求和符号的七条核心运算法则，并基于定义给出了严格证明：1) 常数倍提取法则；2) 和差拆分法则；3) 常数求和法则；4) 区间拆分法则；5) 裂项相消法则；6) 二重求和顺序交换法则；7) 独立变量乘积求和的分离法则。所有证明均从求和的基本定义出发，通过展开表达式和代数运算完成。特别强调易错点：仅当变量完全独立时才能分离乘积求和，而∑aᵢbᵢ≠(∑aᵢ)(∑bᵢ)，∑aᵢ²≠(∑aᵢ)²，并通过反例验证了这些不等式。