Elivs的博客

原创 RMSNorm（均方根层归一化）函数示例

为了让你更直观地理解 RMSNorm（均方根层归一化）的工作原理，我们用一个简单的二维张量（矩阵）来进行手算推演。

原创 Softmax激活函数

Softmax（归一化指数函数）是深度学习中用于处理多分类任务的核心激活函数。它的主要作用是将一个任意实数向量（通常称为 logits）映射为一个概率分布。经过 Softmax 处理后，输出向量中的每个元素都在 (0,1)(0,1) 之间，且所有元素之和严格等于 1。

原创 导数derivative知识

数学中的导数知识是一个系统性的模块，主要围绕导数的概念、计算和应用展开。

原创 抛物线（Parabola）

在平面内，到一个定点（称为焦点，Focus）和一条定直线（称为准线，Directrix）的距离相等的点的轨迹，叫做抛物线。

原创 RMSNorm （均方根层归一化）函数

标准的 RMSNorm 公式在归一化之后，还会乘以一个可学习的缩放参数 gamma（即 odot boldsymbol{gamma}），用于恢复模型的表达能力。frac{1}{n} sum_{j=1}^{n} x_j^2：输入向量元素的平方均值（对应代码中的 ms = sum(xi * xi for xi in x) / len(x)）。frac{1}{sqrt{dots + epsilon}}：均方根的倒数（对应代码中的 scale = (ms + 1e-5) ** -0.5）。

原创 RMSNorm函数

frac{1}{n} sum_{j=1}^{n} x_j^2：输入向量元素的平方均值（对应代码中的 ms = sum(xi * xi for xi in x) / len(x)）。boldsymbol{gamma}：可学习的缩放参数向量（其维度与 mathbf{x} 相同，通常初始化为全 1 向量），用于恢复模型在归一化过程中损失的表达能力。frac{1}{sqrt{dots + epsilon}}：均方根的倒数（对应代码中的 scale = (ms + 1e-5) ** -0.5）。

原创 奇异矩阵(Singular Matrix)

摘要： 奇异矩阵（行列式为0的不可逆矩阵）在空间变换中会导致降维和信息丢失。典型例子包括全零矩阵、含零行/列的矩阵、行/列线性相关的矩阵（如$\begin{bmatrix}1&2\2&4\end{bmatrix}$）。验证方法有三种： 代数法：计算行列式是否为0； 定义法：解$Ax=0$是否存在非零解； 几何法：通过秩（Rank）判断是否降维。 三者本质等价，均揭示矩阵的奇异性源于线性相关性或信息冗余。

原创 最小二乘法中的法方程

理解它不仅要掌握公式 A^T A x = A^T b，更要理解其背后的正交投影几何意义以及数值计算中的陷阱。3. 非线性最小二乘：法方程在每次迭代中作为线性化后的子问题出现（Gauss-Newton法），此时 A 为雅可比矩阵 J，法方程变为 J^T J Delta x = J^T r。1. 小规模/良态问题：可直接计算 (A^T A)^{-1} A^T b（如Cholesky分解法，利用对称正定性加速）。1. 展开目标函数：Phi = x^T A^T A x - 2b^T A x + b^T b。

原创 【无标题】

在数学和信号处理中，卷积的本质是一种特殊的积分变换，描述了一个函数的“形状”如何被另一个函数修改。连续卷积（卷积积分）： 对于两个连续函数 $f(x)$ 和 $g(x)$，它们的卷积定义为积分： $(f * g)(t) = \int_{-\infty}^{\infty} f(\tau)g(t - \tau) d\tau$ 其计算过程包含三个核心步骤：首先将其中一个函数翻转（即 $g(\tau)$ 变为 $g(-\tau)$），然后将其平移 $t$ 个单位，最后计算两函数重叠部分乘积的积分。

原创 有趣的几何不等式的证明

费马大定理近似解，不等式的证明

原创 有趣的数字规律

来说，似乎a=2n-1, b=2n, c=2n+1时， a+b最接近于c。

原创 DeepSeek, Kimi等几种AI体验对比

(4). Baidu AI虽然得到了正确的答案，但它有一点取巧，它没有列出解题过程，而是直接用python函数去解题。试着让DeepSeek, Kimi, Bing AI, Baidu AI做同样一道线性规划的优化问题。(2). Kimi前面大部分过程都正确，但是最后没有考虑约束条件，得到了错误的答案。(1). DeepSeek正确的列出了解题步骤，以及正确答案。(3). Bing AI跟Kimi一样的错误，错得还更多一些。发现DeepSeek确实厉害，不只是成本优势。

原创 OpenCV人脸识别与对比

haarcascade_frontalface_default.xml可以从。两张人脸的对比结果差异值: 1769757。

原创 Python实现最小堆(Min Heap)

最小堆的特点，最小值一定在第一个元素。

原创 线性规划问题(Linear Programming Problem)求解

将方程组(2)的三个方程用x1, x2坐标系画出直线。将方程组(1)中的不等式换成等式得。最优解： [100. 350.]将第一行和第三行联合求解得。将第二行和第三行联合求解得。将第一行和第二行联合求解得。(二)用Python求解。最大值： 1250.0。

原创 OpenCV给图片添加半透明文字

OpenCV Python，版本4.8.1，给图片上添加半透明文字。

原创 JAVA NIO实现最简单的HTTP服务器

浏览器请求localhost:8899，返回hello,world。

原创 python解线性方程组

使用numpy.linalg.solve求解线性方程组 Ax = b。print(x) # 输出x的值，结果为[ 1. 0. -1.]# 定义系数矩阵A和结果矩阵b。

原创 曲面面积微元与曲面积分的微分形式

原创 以参数方程表示的光滑曲面上的积分

即系曲面面积。

原创 使用python进行数学计算(分数运算及递归)

使用python进行数学计算(分数运算及递归)

原创 List Tidal Energy Technologies

Tidal energy is a form of energy that harnesses the power of ocean tides to generate electricity. The following are some of the most common tidal energy technologies:Tidal Stream Energy: Tidal stream energy involves using turbines or other devices to captu

原创 Jar文件的编译版本统计

思路：输入一个jar文件，或者一个包含jar文件的目录。然后读取jar包中的class文件，并读取其第7个字节，则为编译的JDK版本号。

原创 Redis数据类型

集合是通过hashtable实现的，概念和数学中个的集合基本类似，可以交集，并集，差集等等，set中的元素是没有顺序的。所以添加，删除，查找的复杂度都是O(1)。和 set 一样也是string类型元素的集合,且不允许重复的成员。sorted set可以通过用户额外提供一个优先级(score)的参数来为成员排序，并且是插入有序的，即自动排序。Redis hash 是一个 string 类型的 field 和 value 的映射表，hash 特别适合用于存储对象。列表是简单的字符串列表，按照插入顺序排序。

原创 计算机术语集[更新中]

计算机术语

原创 JAVA中的延时队列DelayQueue

定义延时队列的元素import java.util.concurrent.Delayed;import java.util.concurrent.TimeUnit;public class DelayedItem<T> implements Delayed { /** * 到期时间，单位ms */ private long activeTime; private T data; public DelayedItem(long activeTime, T dat

原创 Kafka 3.1的KRaft模式里的broker与controller

在KRaft模式里，只有一小部分的服务器作为Controller运行（相比之下，Zookeeper模式里，任何服务器都可以成为Controller）。这一小部分指定的服务器会参与到元数据的选举中。每一个Controller服务器要么是acitve状态，要么是当前active状态服务器的hot standby。In KRaft mode, only a small group of specially selected servers can act as controllers (unlike

原创 LinkedHashMap实现LRU缓存

import java.util.LinkedHashMap;import java.util.Map;/** * A cache implementing a least recently used policy. */public class LRUCache<K, V> implements Cache<K, V> { private final LinkedHashMap<K, V> cache; public LRUCache(f.

原创 Java NIO的简单HTTP服务器实现

用JAVA NIO实现一个最简单的HTTP服务器。不管浏览器请求什么，都展示Hello, world在浏览器中。注意点：(1).在处理ACCEPT事件后，只需要往Selector中注册READ操作。不需要注册WRITE操作，因为WRITE操作是随时都可用的。(2).处理完响应操作，才能关掉客户端的SocketChannel。OP_WRITE is almost always ready. It rarely if ever makes sense to register for O..

原创 Java NIO的Buffer常用方法flip,rewind,clear等

import java.nio.Buffer;import java.nio.CharBuffer;public class CharBufferDemo { public static void main(String[] args) { CharBuffer buffer = CharBuffer.allocate(8); print(buffer); // 输出capacity:8, limit:8, position:0 buffer.put('a'); buffer..

原创 ZooKeeper与Eureka, CP与AP

ZooKeeper：当Leader选举不能完成时，服务不可用。服务不可用的的时间，可能会持续几秒、几分钟，甚至会一直持续。容易产生线上故障。参考：ZK和EureKa的区别（CAP理论）_w1028556865的博客-优快云博客_zk和eureka的区别...

原创 BigDecimal的intCompat, percision及scale

private void print(String num) { BigDecimal bd = new BigDecimal(num); BigDecimal bd2 = bd.stripTrailingZeros(); int scale = bd2.scale(); System.out.printf("%s -> %s\r\n", num, scale); }输入12.34。那么bd和bd2的结果如下。输入12。那么bd和bd2的结果如下。输入1...

原创 MySQL数据库的逻辑备份与物理备份

常用的逻辑备份主要就是两种，一种是将数据生成可以完全重现当前数据库中数据的INSERT 语句，另外一种就是将数据通过逻辑备份软件，将我们数据库表数据以特定分隔符进行分隔后记录在文本文件中。数据库的物理备份就是对数据库的物理对象所做的备份。数据库的物理对象主要由数据库的物理数据文件、日志文件以及配置文件等组成。不同的存储引擎的文件组成不同。以Innodb存储引擎为例。Innodb 存储引擎属于事务性存储引擎，而且存放数据的位置也可能与MyISAM 存储引擎有所不同，这主要取决于我们对Inn

原创 风控防刷WAF

Web应用防护系统（也称为：网站应用级入侵防御系统。英文：Web Application Firewall，简称：WAF）。利用国际上公认的一种说法：Web应用防火墙是通过执行一系列针对HTTP/HTTPS的安全策略来专门为Web应用提供保护的一款产品。...

原创 动态规划问题(DP)HouseRobber的JAVA实现

/** * 原题 https://leetcode.com/problems/house-robber/description/ */public class HouseRobber { public static int rob(int[] nums) { int len = nums.length; int[] sum = new int[len]; if (len == 1) { return nums[0]; } for (int i = 0; i < l.

原创 开源的线上商城项目收集

1、创创猫java单商户商城-品牌自营如三只松鼠创创猫B2C单商户电商系统，是一款完善且经过线上验证的Java电商系统。 商城前端使用uni-app开发, 可打包部署到微信小程序, APP, H5，系统后台则是用java语言开发。 本项目是消费端的前端源码, 在项目详情里你也能获取到平台端/Java后台的源码。 http://www.ccmao.net2、畅购商城创创猫B2C单商户电商系统，是一款完善且经过线上验证的Java电商系统。 商城前端使用uni-app开发, 可打包部署到微信小程序,

原创 Junitperf性能测试

1.Maven工程的pom.xml文件中添加junit和junitperf的依赖配置 <dependency> <groupId>junit</groupId> <artifactId>junit</artifactId> <version>4.13.2</version> <scope>test&

原创 Java的double类型的精度问题

public class DoubleDemo { public static void main(String[] args) { double d = 3.0 - 2.6; double d2 = 0.4 - d; System.out.println(d); // 输出 0.3999999999999999 System.out.println(d2); // 输出 1.1102230246251565E-16 System.out.println(d2 > 0); /.

原创 Java线程池ThreadPoolExecutor的四种拒绝策略

package thread;import java.util.concurrent.*;import java.util.stream.IntStream;public class ThreadPoolExecutorDemo { public static void main(String[] args) { int corePoolSize = 10; int maxPoolSize = 10; long keepAliveTime .

原创 LibreTranslate

网址 https://libretranslate.com/docs/#/。d调用接口[/translate]。输入：你好输出：You输入：水杯输出：Water Cup输入：我爱编程输出：I am grateful to you for your kind words.总结，这个翻译基本是个玩具工具。...