3 linear models for regression

本文深入探讨了机器学习中通过构建应用函数预测目标值的方法,着重阐述了贝叶斯估计观点,从先验概率、自然函数到后验概率的计算过程,以及如何利用条件概率的期望作为参数最优解。

摘要生成于 C知道 ,由 DeepSeek-R1 满血版支持, 前往体验 >

1 有训练集X={x1,x2,...,xN},目标集t={t1,t2,...,tN};目标是对于新的观测点x,预测与其对应的目标值。

在一些简单的应用中,采用构建应用函数y(x)(设计model),对于新的输入点x,根据函数关系直接求得对应的目标值t.

贝叶斯估计观点,把参数看成一个确定的随机变量,利用先验概率分布p(x)和似然函数p(x|t),计算相应的后验概率分布p(t|x),参数最优解为条件概率的期望:

第一步确定参数的先验概率;第二步写出似然函数,并根据贝叶斯法则计算后验概率;第三步写出参数的贝叶斯估计----条件概率的期望(后验概率)。

2 线性基函数:

函数y(x,w)对于系数w是线性的,在第一章中,基函数选择为,这个多项式基函数的选择的缺点:对于x是全局函数,意味着牵一发而动全身,可以选择样条函数作为基函数,克服此缺点。

(1)高斯基函数

(2) Sigmoidal basis function

 

(3)tan函数

(4)傅里叶级函数


评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值