机器学习之回归算法

1.一元线性回归

输入xi yi
预测值 f(xi) = wxi + b 使f(xi) 接近yi
(w,b)=argmin∑i=1n(f(xi)−yi)2 (w, b) = argmin \sum_{i = 1}^n (f(xi) - yi)^2 (w,b)=argmini=1n(f(xi)yi)2
注:基于均方误差最小化来进行模型求解成为最小二乘法
上式也可以使用误差正态分布来推算出公式
那对上式分别对w b求导,导数为零极为极值点。此时就可以求出w,b
αE/αw=2(w∑i=1n(xi)2−∑i=1n(yi−b)xi) \alpha E/\alpha w = 2(w\sum_{i = 1}^n (xi)^2 - \sum_{i = 1}^n (yi - b)xi) αE/αw=2(wi=1n(xi)2i=1n(yib)xi)
αE/αb=2(mb−∑i=1n(yi−wxi)) \alpha E/\alpha b = 2(mb - \sum_{i = 1}^n (yi - wxi)) αE/αb=2(mbi=1n(yiwxi))
令式都等于零,连立方程即可求出w, b

2.多元线性回归

基本原理和一元线性一致,

样本是由d个属性描述。即一元线性回归xi表示一个样本。而多元就是xi表示的是一个向量。

f(xi)=wTxi+b f(xi) = w^Txi + b f(xi)=wTxi+b
为了方便计算,将b放入w中 也就是w’ = (w;b) 相应的xi扩充一个1的列
那可以得到:
w′=argmin(y−Xw)T(y−Xw) w' = argmin(y - Xw)^T(y - Xw) w=argmin(yXw)T(yXw)
对w进行求导得到:
αE/αw=2XT(Xw−y) \alpha E / \alpha w = 2X^T(Xw - y) αE/αw=2XT(Xwy)
XTXX^TXXTX满秩,则可以得到:
w=(XTX)−1(XTy) w = (X^TX)^{-1}(X^Ty) w=(XTX)1(XTy)
如果不是满秩,因为变量和样例数往往不是相同的。通常引入正则化。

3.逻辑回归

逻辑回归其实可以理解为分类。
sigmod函数:
g(x)=1/(1+e−z) g(x) = 1 / (1 + e^{-z}) g(x)=1/(1+ez)
在这里插入图片描述
输入值映射到[-1, 1]
在这里插入图片描述
在这里插入图片描述
分类任务:
在这里插入图片描述
整合之后(而分类情况 y只有1和0两种情况):
在这里插入图片描述
也就是求取似然函数:
在这里插入图片描述
由于惩罚求起来比较困难,转为对数似然成为加法:
在这里插入图片描述
由于需要求最大值,故转换为梯度下降任务 J = -(1/m)*l
对该式子求导得到导数:
在这里插入图片描述
参数更新:
在这里插入图片描述

内容概要:该研究通过在黑龙江省某示范村进行24小时实地测试,比较了燃煤炉具与自动/手动进料生物质炉具的污染物排放特征。结果显示,生物质炉具相比燃煤炉具显著降低了PM2.5、CO和SO2的排放(自动进料分别降低41.2%、54.3%、40.0%;手动进料降低35.3%、22.1%、20.0%),但NOx排放未降低甚至有所增加。研究还发现,经济性和便利性是影响生物质炉具推广的重要因素。该研究不仅提供了实际排放数据支持,还通过Python代码详细复现了排放特征比较、减排效果计算和结果可视化,进一步探讨了燃料性质、动态排放特征、碳平衡计算以及政策建议。 适合人群:从事环境科学研究的学者、政府环保部门工作人员、能源政策制定者、关注农村能源转型的社会人士。 使用场景及目标:①评估生物质炉具在农村地区的推广潜力;②为政策制定者提供科学依据,优化补贴政策;③帮助研究人员深入了解生物质炉具的排放特征和技术改进方向;④为企业研发更高效的生物质炉具提供参考。 其他说明:该研究通过大量数据分析和模拟,揭示了生物质炉具在实际应用中的优点和挑战,特别是NOx排放增加的问题。研究还提出了多项具体的技术改进方向和政策建议,如优化进料方式、提高热效率、建设本地颗粒厂等,为生物质炉具的广泛推广提供了可行路径。此外,研究还开发了一个智能政策建议生成系统,可以根据不同地区的特征定制化生成政策建议,为农村能源转型提供了有力支持。
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值