线性回归案例心得

本文介绍了机器学习中线性回归模型的训练过程,包括数据预处理、特征工程、模型选择和评估。在数据预处理阶段,使用LabelEncoder对非数值特征进行编码,但在目标变量上应用LabelEncoder导致r2_score提升的现象值得注意。

机器学习一般步骤

1、导入数据集
2、查看数据集信息,处理缺失值
3、特征工程
4、特征非数值类型的编码,特征缩放
5、划分训练集和测试集,或训练集、验证集和测试集
6、选择模型
7、模型评估

线性回归案例

1、数据集信息:在这里插入图片描述
2、数据预处理

  • 缺失值为0个
    #查看缺失值 data.isnull().sum()
  • 对非数值类型数据使用labelEncoder

#这里对全部类型都使用了LabelEncoder编码,除了需预测值charges

from sklearn.preprocessing import LabelEncoder
le = LabelEncoder()
firstdata = pd.DataFrame()
for col in data.columns:
    if col == 'charges':
        firstdata[col] = data[col]
        continue
    firstdata[col]=le.fit_transform(data[col])
firstdata.head()
  • 划分数据集,使用sklearn的train_test_split()函数
from sklearn.model_selection import train_test_split

# 划分自变量, 因变量
X = firstdata.iloc[:,:-1]
y = firstdata.iloc[:,-1]
# 划分测试集和训练集
x_train, x_test, y_train, y_test = train_test_split(X,y, test_size=0.2, random_state = 42)
  • 模型训练即评估
from sklearn.linear_model import LinearRegression
linear_model=LinearRegression()
linear_model.fit(x_train,y_train)
from sklearn.metrics import r2_score
y_pred=linear_model.predict(x_test)
print(r2_score(y_test,y_pred))
  • 问题:
    本次案例问题,之后尝试使用one_hot Encoder之后结果一致。但发现如果对目标值charges使用了labelEncoder之后,效果会提高,使得r2_score增加,不知道为何且是否合理
对于数学竞赛中涉及的线性回归模型资源,通常这些材料会出现在统计学或者机器学习相关的比赛中。然而,在传统的中学数学竞赛里,比如国际数学奥林匹克(IMO),美国数学竞赛(AMC)等,并不常见到直接与线性回归有关的问题。这是因为线性回归属于更高级别的统计分析范畴。 尽管如此,一些面向高中生或大学生的数据科学、应用数学比赛可能会涉及到线性回归的应用。例如: - **Kaggle** 平台上的某些预测类竞赛可能需要参赛者运用包括但不限于线性回归在内的多种算法来进行数据分析和建模。 为了准备这类含有线性回归内容的比赛,可以参考如下资源: 1. 学习基础理论:理解什么是线性回归以及如何计算它。这可以通过在线教程完成,如Coursera提供的《Machine Learning》课程由Andrew Ng教授讲授;edX平台也有类似的主题课程。 2. 实践编程技能:掌握Python或R这样的编程语言及其用于数据处理和可视化的库(pandas, matplotlib),还有专门做机器学习的scikit-learn库。实践项目可以从GitHub上找到开源的例子开始尝试。 3. 参加线上论坛讨论:加入Reddit的r/statistics子版块或是Stack Exchange旗下的Cross Validated社区提问交流心得经验。 4. 阅读文献案例研究:查阅学术期刊发表的文章了解最新的研究成果和技术进展。Google Scholar是一个很好的起点,能够搜索到来自不同领域的论文资料。 5. 利用书籍加深认识:选择一本专注于统计学习或者机器学习方面的书深入研读,像《The Elements of Statistical Learning》就是非常受欢迎的一本教材。
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
红包 添加红包
表情包 插入表情
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值