本文已参与「新人创作礼」活动,一起开启掘金创作之路。
人工智能中用到的数学基础
概率论与人工智能
https://baike.baidu.com/item/%E6%A6%82%E7%8E%87%E8%AE%BA/829122?fr=aladdin
概率论,是研究随机现象数量规律的数学分支。随机现象是相对于决定性现象而言的,在一定条件下必然发生某一结果的现象称为决定性现象。例如在标准大气压下,纯水加热到100℃时水必然会沸腾等。随机现象则是指在基本条件不变的情况下,每一次试验或观察前,不能肯定会出现哪种结果,呈现出偶然性。例如,掷一硬币,可能出现正面或反面。随机现象的实现和对它的观察称为随机试验。随机试验的每一可能结果称为一个基本事件,一个或一组基本事件统称随机事件,或简称事件。典型的随机试验有掷骰子、扔硬币、抽扑克牌以及轮盘游戏等。
事件的概率是衡量该事件发生的可能性的量度。虽然在一次随机试验中某个事件的发生是带有偶然性的,但那些可在相同条件下大量重复的随机试验却往往呈现出明显的数量规律。
传统概率又称为拉普拉斯概率,因为其定义是由法国数学家拉普拉斯提出的。如果一个随机试验所包含的单位事件是有限的,且每个单位事件发生的可能性均相等,则这个随机试验叫做拉普拉斯试验。在拉普拉斯试验中,事件A在事件空间S中的概率P(A)为:
例如,在一次同时掷一个硬币和一个骰子的随机试验中,假设事件A为获得国徽面且点数大于4,那么事件A的概率应该有如下计算方法:S={(国徽,1点),(数字,1点),(国徽,2点),(数字,2点),(国徽,3点),(数字,3点),(国徽,4点),(数字,4点),(国徽,5点),(数字,5点),(国徽,6点),(数字,6点)},A={(国徽,5点),(国徽,6点)},按照拉普拉斯定义,A的概率为2/12=1/6,注意到在拉普拉斯试验中存在着若干的疑问,在现实中是否存在着这样一个试验,其单位事件的概率具有精确的相同的概率值,因为人们不知道,硬币以及骰子是否"完美",即骰子制造的是否均匀,其重心是否位于正中心,以及轮盘是否倾向于某一个数字等等。
尽管如此,传统概率在实践中被广泛应用于确定事件的概率值,其理论根据是:如果没有足够的论据来证明一个事件的概率大于另一个事件的概率,那么可以认为这两个事件的概率值相等。 如果仔细观察这个定义会发现拉普拉斯用概率解释了概率,定义中用了"相同的可能性"(原文是égalementpossible)一词,其实指的就是"相同的概率"。这个定义也并没有说出,到底什么是概率,以及如何用数字来确定概率。在现实生活中也有一系列问题,无论如何不能用传统概率定义来解释,比如,人寿保险公司无法确定一个50岁的人在下一年将死去的概率等。
设随机实验E的样本空间为Ω。若按照某种方法,对E的每一事件A赋于一个实数P(A),且满足以下公理:
(1)非负性: P(A)≥0;
(2)规范性: P(Ω)=1;
可列(完全)可加性:
则称实数P(A)为事件A的概率
机器翻译中,我们采用最简单的方式就是通过分解输入,计算各个模型的概率来得到最大概率的模型,从而确定你的模型;
在神经网络中进行图像分类,网络的输出是衡量分类结果可信程度的概率值,即分类的置信度,我们选择置信度最高的作为图像分类结果。 混合高斯模型、隐马尔科夫模型等传统语音处理模型都是以概率论为基础的
最优化问题
有约束最优化和无约束最优化。
梯度下降法;