经典机器学习算法的数学推导

本文深入探讨了机器学习中的线性回归和K-means聚类算法。对于线性回归,讲解了参数θ的数学表示、特征x的选择以及误差的理解。在K-means中,解释了确定簇数、质心计算和距离度量方法。文章还重点介绍了优化技巧,如矩阵求导和梯度下降,并强调了不同参数的独立优化。

摘要生成于 C知道 ,由 DeepSeek-R1 满血版支持, 前往体验 >

线性回归

为什么叫h(x)  

为什么用θ表示参数

θ是向量还是矩阵?

为什么用x表示特征

为什么X是一个R^{d}来表示的向量

 为什么在表格添加一列1 ?便于矩阵计算

为什么用\varepsilon表示误差? 

K-means

基础概念:

1.要得到簇的个数,需要指定K值

2.质心:均值,即向量各维取平均即可

3.距离的度量:常用欧几里得距离和余弦相似度(先标准化)

4.优化目标: 就是每个簇内每个样本点到簇中心的距离之和最小

必须掌握的技巧

1.提出常数和取对数

评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值