机器学习数学基础

机器学习数学基础:高数、线代与随机牛顿法
这篇博客介绍了机器学习所需的数学基础,包括高等数学和线性代数,并探讨了随机牛顿法及其在解决Rosenbrock函数优化问题上的应用。文中提供了Rosenbrock函数的定义、Python实现,以及随机牛顿法的原理和代码示例。

机器学习数学基础

总共可以分为五块:高数、线代、概率论与数理统计(考研三大块)、随机过程和mcmc抽样(最后两个严格意义上也属于数理统计的内容)。

本人是应统专业的,后面的就先鸽一下,前面高数线代的内容在这里先补充一下,其实大部分考研也学过,这里就展示下思维导图吧。

高等数学

高数思维导图

线性代数

在这里插入图片描述

随机牛顿法及其代码实现

Rosenbrock函数

Rosenbrock函数是一个用来测试最优化算法性能的非凸函数,由Howard Harry Rosenbrock在1960年提出,因其函数形状类似香蕉,故别名为香蕉函数:

f(x,y)=(a−x1)2+b(x2−x12)2f(x, y) = (a - x_1)^2 + b(x_2 - x_1^2)^2f(x,y)=(ax1)2+b(x2x12)2

其中 x=(x1,x2)T∈R2  ;a,b∈R\bm{x} = (x_1 , x_2)^T \in R^2 \; ; a,b \in Rx=(x1,x2)T

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值