欧几里得空间与希尔伯特空间

最新推荐文章于 2025-05-14 22:27:35 发布

Monky丶D

最新推荐文章于 2025-05-14 22:27:35 发布

阅读量3.7w

点赞数 83

分类专栏：机器学习文章标签：欧几里得空间希尔伯特空间赋范空间度量空间巴拿赫空间

本文链接：https://blog.youkuaiyun.com/weixin_36811328/article/details/81207753

版权

机器学习专栏收录该内容

7 篇文章

订阅专栏

本文通过介绍距离、范数、内积及完备性等概念，帮助读者理解希尔伯特空间的基本定义及其与其他函数空间的区别。

摘要生成于 C知道，由 DeepSeek-R1 满血版支持，前往体验 >

多年以前学信号与系统的时候就听说过希尔伯特空间，但是一直不清楚这究竟是个什么东西，然而它却老是时不时在你学得最欢的时候冒出来搞得人一头雾水，于是今天专门花了很多时间总算对其概念有了一些基本的了解。本文整理自上海交通大学王维克教授的公开课，课程链接附在文末。

欧几里得空间，希尔伯特空间，巴拿赫空间或者是拓扑空间都属于函数空间。函数空间 = 元素 + 规则，即一个函数空间由元素与 元素所满足的规则 定义，而要明白这些函数空间的定义首先得从距离，范数，内积，完备性等基本概念说起。

一.距离

说到距离，我们首先想到的是点与点之间的距离，除此之外还有向量之间的距离，曲线之间的距离，函数之间的距离…。这儿谈到距离的定义是一种泛指的概念。点与点之间的距离 与距离就类似于苹果与水果之间的关系。距离这个概念的作用主要用于衡量同一空间不同元素之间的差异情况，从这个出发点我们可以得到关于距离的一些属性：

元素之间的距离大于等于0，若距离等于0则为相同元素。
元素A到B之间的距离等于元素B到A之间的距离。
元素之间的距离满足三角不等式。

满足以上三条属性即可称作元素之间的距离，其正式定义如下

设X是一个非空集合，任给一对这一集合的元素 $X, Y$ 。都给定一个实数 $d (X, Y)$ 与之对应，并且满足

$\ge 0 ; \quad d(X,Y) =0 \Leftrightarrow X=Y ;$
$d (X, Y) = d (Y, X);$
$\le d(X,Z)+d(Y,Z);$

则称 $d (X, Y)$ 是元素X,Y之间的距离

二.范数

范数是比距离限制条件更多的一个概念。为了形象地解释范数的概念，这儿在二维平面进行说明。
在定义了距离这个概念之后，我们便可以描述二维平面上两个点之间的距离，此时这个空间称作 度量空间 。但目前的条件没有办法描述一个点的“长度” ，因为缺少了零点。而范数定义之后此空间便多了一个零点，可以联想我们熟悉的平面直角坐标系，二维平面中范数可以看做是平面中的点到零点的距离。拥有范数的空间称作赋范空间，用符号 $∣ ∣ X ∣ ∣$ 表示元素 $X$ 的范数。因为范数的概念是在距离的概念上加了新的限制，则赋范空间一定是度量空间。我们可以用范数定义距离： $d (X, Y) = ∣ ∣ X - Y ∣ ∣$
总结：元素 $X$ 的范数 $∣ ∣ X ∣ ∣$ 可简单看做 $X$ 到零点的近距离。

三.线性

线性这个概念可以说是很熟悉了，即为加法与乘法的结合。若一个空间为线性空间，只要我们知道了此空间的所有基，便可以用加法与数乘表示这一空间所有的元素，如二维平面中能用X轴的单位向量与Y轴的单位向量表示此平面的任意向量。

四.内积

内积又称点积或者数量积，在高中学习向量的点乘运算时便接触到这一概念。在有了前面的定义之后的空间总觉得与我们最熟悉的空间还差点什么，没错，就是角度。在引入内积之后的空间便有了角度的概念。 $X$ 与 $Y$ 的内积用符号 $(X, Y)$ 表示，内积的结果同样是为实数。内积是在范数的概念上加了更多限制条件，即内积空间一定为赋范空间，同样的，可以用内积定义范数如下： $X||^2 = (X,X)$
目前为止便完成了本文的大部分内容，有限维内积空间便是我们最熟悉的欧几里得空间。

五.完备性

完备性这个概念的历史渊源比较深厚，作为非数学专业的工科生我也不太明白完备性的具体含义，简单来说对集合中的元素取极限不超出此空间便称其具有完备性。~~可以反向地通过不完备来理解完备性，对于整数集而言，对5取极限，便会超出整数集，即整数集不完备。~~
2018-10-22更正： 最近学了一点泛函，对完备性有了新的理解。完备性是在极限的基础上衍生的概念。例如在有理数集上的一个序列{1，1.4，1.41，1.414，1.4142…}，可知此序列极限为 $\sqrt{2}$ ，而 $\sqrt{2}$ 为无理数，不属于有理数集，即有理数集不具备完备性。