- 博客(10)
- 收藏
- 关注
原创 基本统计量(均值、方差、协方差、相关系数)构造原理详解
目录起点:对数据关系的数学表示均值和方差协方差相关系数intuition 1: 向量夹角intuition 2: 协方差标准化intuition 3: OLS回归起点:对数据关系的数学表示当我们观察到某些变量的样本,我们希望用这些样本构造出一些式子(即统计量)以直观呈现样本的分布规律。例如,我们希望衡量样本集中趋势,在统计学中常用的且性质较好的统计量为均值;若要衡量样本离散程度,常用统计量为方差/标准差。若要衡量两组变量下样本的变化关系(同向/反向),常用协方差,若要衡量变化关系的大小,常用相关系数。
2021-03-20 16:59:35
5594
1
原创 变治法应用之:堆排序算法详解
变治法的关键在于巧妙转换问题,不走常规路,如化未知为已知。堆排序的巧妙之处在于转换了数据结构。对一个普通的无序数组排序,我们知道有合并、快排等方法。但如果我们改变数组的结构,将其变成一个完全二叉树,就可以采取堆排序的方法。后面可以发现,采用堆排序的方法在实现找到、删去最大值、添加元素等操作上效率很高。因此,堆排序是变治法的一个成功实现。堆排序的数据结构基础是“堆”,而堆的本质结构是一个满足特定要求的完全二叉树。其特征为:1. 树的每一层都是满的,只有最后一层最右侧的元素可能缺位。2. 父节点一定大于子女
2021-01-03 19:28:37
1024
1
原创 算法基本思想之时空权衡和利用已知输入信息:计数排序和桶排序
目录时空权衡思想计数排序原理过程代码实现桶排序时空权衡思想计数排序原理(分布)计数排序要求待排序数组A中的数是0-k之间的整数。且这个k已知。这个对输入分布的要求保证了:新数组的索引可以直接和原数组中的数字对应。这也就解释了为什么输入必须是整数,因为如果不是整数,没法对应新数组的索引。当然,如果实际有小数或负数,理论上也可以对数组进行线性变换都化成正整数再用计数排序。但这个过程的问题在于,需要决定进行什么线性变换,而决定的过程又取决于我们对输入数组已知的信息量。如果我们对输入数组一无所知,那必须要遍
2020-11-07 11:56:04
1563
原创 降维专题(一):为什么要降维?
目录为什么要降维主成分分析(PCA)直观概念数学原理(矩阵分解)问题应用局限性与解决奇异值分解(SVD)和PCA关系直观概念问题应用推荐系统项目实战:鸢尾花数据集为什么要降维主成分分析(PCA)直观概念数学原理(矩阵分解)问题应用局限性与解决奇异值分解(SVD)和PCA关系直观概念问题应用推荐系统项目实战:鸢尾花数据集...
2020-11-04 09:34:16
7568
2
原创 递归思想应用之合并排序——过程详解、时间复杂度和代码实现
目录递归形式合并排序基本思想:两组递归分解过程merge过程求解运行时间用递归树猜测复杂度递归形式递归形式是算法中常用到的一种构造思路。递归允许函数或过程对自身进行调用,是对算法中重复过程的高度概括,从本质层面进行刻画,避免算法书写中过多的嵌套循环和分支语法。因此,是对算法结构很大的简化。递归形式分为线性递归、二分递归、多分支递归等。将这些递归形式应用于算法中,就形成了遍历、减治、分治等算法策略。此处重点讨论分治法,并且仅关注分治法应用于排序问题中的一种经典算法:合并排序。合并排序基本思想:两组递
2020-10-10 15:38:20
3700
3
原创 线性回归损失函数构造:极大似然法和贝叶斯估计的视角
目录线性最小二乘法极大似然法估计估计思想线性回归中应用异方差情况贝叶斯估计贝叶斯公式最大后验估计线性最小二乘法极大似然法估计估计思想线性回归中应用异方差情况贝叶斯估计贝叶斯公式最大后验估计...
2020-10-06 11:50:34
2232
1
原创 长期成本曲线为何是短期成本曲线包络线?——用包络定理证明
目录长期成本曲线及直观理解包络定理使用包络定理证明长期成本曲线及直观理解微观经济学中常会提到长期总(平均)成本曲线是短期总(平均)成本曲线的包络线,如下图所示:如何直观理解?首先想,企业如何确定其长期成本曲线?首先看企业长期生产函数:Q=F(K,L)Q=F(K,L)Q=F(K,L)。在短期:Q=F(K‾,L)Q=F(\overline{K},L)Q=F(K,L),即K不可调整,算作其固定成本。此处注意,在短期,K调整后,不仅固定成本会调整,其可变成本也会调整,可以写一个CD生产函数和短期可变成本函
2020-09-26 17:18:59
14951
1
原创 logistic回归为什么采用sigmoid函数——从广义线性函数推导
目录Logistic回归基本形式为什么采用sigmoid函数?广义线性模型Logistic回归基本形式为什么采用sigmoid函数?广义线性模型
2020-09-11 20:32:56
2150
1
原创 最优化算法数学详解之——梯度下降法和牛顿迭代法
这里写自定义目录标题梯度下降法算法详解新的改变功能快捷键合理的创建标题,有助于目录的生成如何改变文本的样式插入链接与图片如何插入一段漂亮的代码片生成一个适合你的列表创建一个表格设定内容居中、居左、居右SmartyPants创建一个自定义列表如何创建一个注脚注释也是必不可少的KaTeX数学公式新的甘特图功能,丰富你的文章UML 图表FLowchart流程图导出与导入导出导入梯度下降法算法详解在机器学习中,。新的改变我们对Markdown编辑器进行了一些功能拓展与语法支持,除了标准的Markdown编辑
2020-09-04 22:10:32
6524
2
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人