数学
关注
分享
扫一扫
Something Just Like
I've been reading books of old
The legends and the myths
Achilles and his gold
Hercules and his gifts
Spiderman's control
And Batman with his fists
And clearly I don't see myself upon that list
展开
-
机器学习中的数学-微积分和梯度
机器学习中的数学主要涉及以下几类，本文会依次更新对数学的理解。微积分、梯度和Jensen不等式Taylor展开及其应用常见概率分布和推导指数族分布共轭分布统计量距估计与最大似然估计区间估计Jacobi矩阵解密矩阵乘法矩阵分解RQ和SVD对称矩阵凸优化本节主要内容：1.常数e的计算过程2.常见函数的导数3.分部积分法及其应用4.梯度 - 上升/下降最快方向5...原创 2019-06-17 15:34:46 · 905 阅读 · 0 评论 -
机器学习中的算法决策树与随机森林
原创文章,如需转载请保留出处本博客为唐宇迪老师python数据分析与机器学习实战课程学习笔记一. 决策树1.1 树模型决策树：从根节点开始一步步走到叶子节点（决策）所有的数据最终都会落到叶子节点，既可以做分类也可以做回归1.2 树的组成根节点：第一个选择点非叶子节点与分支：中间过程叶子节点：最终的决策结果1.3 节点增加节点相当于在数据中切一刀，节点越多越好吗？...原创 2019-07-06 16:56:41 · 573 阅读 · 0 评论 -
机器学习中的算法-逻辑回归算法
原创文章,如需转载请保留出处本博客为唐宇迪老师python数据分析与机器学习实战课程学习笔记一.逻辑回归算法原理推导1.1 逻辑回归(Logistic regression)== 目的：经典的二分类算法 ==1.2 Sigmoid函数二.逻辑回归求解...原创 2019-06-29 09:27:01 · 271 阅读 · 0 评论 -
机器学习中的数学-极大似然估计
原创文章,如需转载请保留出处本博客为七月在线邹博老师机器学习数学课程学习笔记一. 极大似然估计1.1 极大似然估计假设D是样本集合,A是参数集合,我们在D样本集固定的情况下,A取何值时,P(A|D)能取到最大。我们现在的主要目的是求1式的最大值,其中1式通过贝叶斯公式能转换为2式的形式,其中2式的分母相同,我们只需要考虑分子即可–即3式,又因为P(Ai)近似相等.所以我们可以将3式...原创 2019-06-23 16:17:18 · 218 阅读 · 0 评论 -
机器学习中的数学-矩估计
原创文章,如需转载请保留出处本博客为七月在线邹博老师机器学习数学课程学习笔记一. 样本的统计量二. 矩估计2.1 矩估计定义矩估计的原理即是假设样本的K阶矩等于总体的K阶矩,可以估计出总体的参数2.2 正态分布的矩估计2.3 均匀分布的矩估计...原创 2019-06-23 15:04:11 · 1549 阅读 · 0 评论 -
机器学习中的数学-中心极限定理
原创文章,如需转载请保留出处本博客为七月在线邹博老师机器学习数学课程学习笔记一. 概率密度/概率分布函数概率密度只是针对连续性变量而言，而分布函数是对所有随机变量取值的概率的讨论，包括连续性和离散型。已知连续型随机变量的密度函数，可以通过讨论及定积分的计算求出其分布函数；当已知连续型随机变量的分布函数时，对其求导就可得到密度函数。概率密度曲线y轴意义在于给定相同长度下,样本落在此段几...原创 2019-06-23 12:13:19 · 646 阅读 · 0 评论 -
机器学习中的数学-偏度和峰度
原创文章,如需转载请保留出处本博客为七月在线邹博老师机器学习数学课程学习笔记一. 矩1.1 对于随机变量X,X的K阶原点矩为1.2 X的K阶中心矩为期望实际上是随机变量X的1阶原点矩,方差实际上是随机变量X的2阶中心矩变异系数(Coefficient of Variation):标准差与均值(期望)的比值称为变异系数,记为C.V偏度Skewness(三阶)峰度Kurtosi...原创 2019-06-23 11:37:46 · 1009 阅读 · 0 评论 -
机器学习中的数学-期望、方差与协方差
一. 期望1.1 期望的性质无条件成立E(kX)=kE(X)E(X+Y)=E(X)+E(Y)若X和Y互相独立E(XY)=E(X)E(Y) 反之不成立。实际上，若E(XY)=E(X)E(Y)，只能说明X和Y不相关。1.2 事件的独立性1.3 计算期望1.4计算每一位的期望1.5 集合Hash问题二. 方差...原创 2019-06-22 17:44:02 · 3535 阅读 · 0 评论 -
机器学习中的数学-概率计算与拒绝采样
一. 一定接受率下的采样1.1 已知有个rand7()的函数，返回1到7随机自然数，让利用rand7()构造rand10()随机1~10。1.2 解：二.事件的独立性给定A和B是两个事件，若有P(AB)=P(A)P(B)，则称事件A和事件B相互独立。说明： A和B独立，则P(A|B)=P(A) 实践中往往根据两个事件是否相互影响而判断独立性：如给定M个样本、若干次采样等情形，...原创 2019-06-22 16:34:17 · 202 阅读 · 0 评论 -
机器学习中的数学-概率论基础
一. 概率论1.1对概率的认识P(x)∈[0,1]P=0：事件出现的概率为0若x为离散/连续变量，则P=(x=x0)表示x0发生的概率/概率密度1.2 累计分布函数Φ(x)=P(≤x0)Φ(x)一定为单增函数min(Φ(x))=0，max(Φ(x))=1将值域为[0，1]的某函数y=f(x)看成x事件的累积概率若y=f(x)可导，则p(x)=f`(x)为某概率密度函数...原创 2019-06-22 15:39:51 · 637 阅读 · 0 评论 -
机器学习中的数学-Taylor展式与拟牛顿
本节主要内容：Taylor展式 计算函数值 解释gini系数公式 平方根公式牛顿法 梯度下降算法 拟牛顿法 DFP BFGS一.Taylor公式-Maclaurin公式1.1 应用1：函数值计算数值计算：初等函数值的计算(在原点展开)计算：求整数k和小数r，使得：x=kln2+r，|r|≤0.5ln21.2 应用2：解释Gini系数...原创 2019-06-22 11:33:25 · 287 阅读 · 0 评论 -
机器学习中的数学-矩阵
原创文章,如需转载请保留出处本博客为七月在线机器学习数学课程学习笔记一. 部分使用的数学符号表1.1 数学符号表1.2 Ax = b的行视图1.3 线性相关和线性无关二. Span、基和子空间(Subspace)2.1 Span2.2 四个基本的子空间...原创 2019-09-18 10:27:55 · 369 阅读 · 0 评论