数学基础汇总

持续更新，个人学习用途。

I 微积分

一、映射和函数

1. 映射

设 A 和 B 是两个非空集合，如果按照某种对应关系 $f$ ，对于集合 A 中的任何一个元素 a ，在集合 B 中都存在唯一的一个元素 b 与之对应。那么，这样的对应关系 $f$ ，称为集合 A 到集合 B 的映射，记作 $f:A\to B$ 。
映射表达了两类集合之间的关系，映射只能是一对一或者多对一，不能一对多。当集合 A 和 B 是两个非空数集的时候，这个映射 $f$ 就称为函数。
那么有哪些常用的「非空数集」呢？我们最常用的是实数域这个「非空数集」，一般用 R 来表示。定义在实数域上的函数就称为实函数。对于一个实函数，有两个变量，自变量和因变量。自变量就是自身在变化的量，因变量就是因为别人的变化而发生变化的量。对于 $f:A\to B$ ，显然 A 是自变量，B 因为 A 而发生变化，所以 B 是因变量。

2. 函数

对于实数域上的实函数，我们可以大致分为三类：

• 一元函数
• 多元函数
• 向量函数

（1）一元函数

一元函数的自变量和因变量只有一个值（也就是标量），从映射的角度上来看，就是 $f:R\to R$，比如下面这个数学公式就是一个很简单的的一元函数。

$f(x)=x^2$

（2）多元函数

多元函数的自变量有多个值（也就是向量），它的因变量只有一个值（也就是标量），从映射的角度上来看，就是 $f:R^n\to R$表示 n 维实数空间。下面这个公式就是一个简单的二元函数。

$f(x_1,x_2)=x_1^2+y_2^2$

（3）向量函数

向量函数是指自变量和输出都是多个值（也就是向量），用映射表示就是 $f:R^n\to R^m$

3. 偏导数

导数可以表示为函数曲线上的切线斜率，还表示函数在该点的变化率。
那么谈到偏导数，就至少涉及两个自变量。以两个自变量为例，$z=f(x,y)$。从导数到偏导数，也就是从曲线来到了曲面。曲线上的一点，其切线只有一条。但是曲面的一点，切线有无数条。
而我们说的偏导数就是指多元函数坐标轴的变化率。

• $f_x(x,y)$指的是函数在$y$方向不变，函数值沿着$x$轴方向的变化率；
• $f_y(x,y)$指的是函数在$x$方向不变，函数值沿着$y$轴方向的变化率。

那么偏导数对应的几何意义是什么呢？

• 偏导数$f_x(x_0,y_0)$就是曲面被平面$y=y_0$所截得的曲面在点$M_0$处的切线$M_0{T}_x$对$x$轴的斜率；
• 偏导数$f_y(x_0,y_0)$就是曲面被平面$x=x_0$所截得的曲面在点$M_0$处的切线$M_0{T}_y$对$y$轴的斜率。

可以看出，其实偏导数具有一定的局限性，偏导数仅仅指的是多元函数沿坐标轴的变化率。但我们往往很多时候要考虑多元函数沿任意方向的变化率，那么就引出了方向导数。

4. 方向导数

假设你站在山坡上，相知道山坡的坡度（倾斜度）
再假设山坡表示为$z=f(x,y)$，那么y方向的斜率可以对y做偏微分得到，同样方法可以求得x方向的斜率。
众所周知，一个平面的所有向量可以用两个基向量来表示，那么同样的，我们可以用这两个偏微分来求出任何方向的斜率，也就是方向导数。

根据复合求导公式，可以很快得到方向导数和偏导数之间有着如下的关系:

$\frac{df}{du}=\frac{df}{dx}\cos \theta +\frac{df}{dy}\sin \theta$

5. 梯度

多元函数的导数值和方向有关，那么有没有一个很特殊的方向，使得多元函数导数值最大呢?

这个特殊的方向就是梯度，接下来我们去求使得$\frac{df}{du}$的导数值取到最大的方向。

II 矩阵轮

一、标量和向量

标量（scalar），是一种只有 数值大小，没有方向的量。一般像整数、有理数或实数都可以作为标量。在现实世界中，人们经常有标量来描述和量化一些事物。比如用标量来描述你的体重，用标量来描述你的身高，用标量来描述你的年龄，用标量来描述你的收入。
然而，有一些事物，却无法简单的用一个标量来很好的描述，比如描述某人一段时间内的体重，这时候我们会发现使用一个标量来描述它是很棘手的。于是我们引入了向量的概念。

向量是有序的有限个标量所组成的列表。

参考

如何直观形象地理解方向导数与梯度以及它们之间的关系？.