机器学习RF估算代码,加调参代码

该代码示例展示了如何利用Python的scikit-learn库进行随机森林回归(RandomForestRegressor)的参数调优。首先,通过GridSearchCV进行参数网格搜索,找到最优参数组合,然后用这些参数训练模型并在测试集上进行预测,最后评估模型的性能,包括MAE、MSE、RMSE和R²分数。整个过程的日志被记录下来以便后续分析。
部署运行你感兴趣的模型镜像

使用RF估算浓度,价格,等,下面两个代码,第一个代码是寻找最优参数,第二个是预测。

话不多说直接上代码
RF_reserach.py

'''
@Project :moxing 
@File    :RF_reserach.py
@IDE     :PyCharm 
@Author  :11
@Date    :2023/6/29 11:31 
'''
import numpy as np
import pandas as pd
from sklearn.ensemble import RandomForestRegressor
from sklearn.model_selection import GridSearchCV, train_test_split
import logging

# 配置日志输出
logging.basicConfig(filename='01month_rf_model_04csv.log', level=logging.INFO)
# 读取数据

data = pd.read_csv(r'G:\RF\normalized_month_12\01\04.csv')
# 定义特征和目标列
X = data.drop(columns=['CO2']) #目标列名
y = data['CO2']
# 划分训练集和测试集
X_train, X_test, y_train, y_test = train_test_split(X, y, test_size=0.2, random_state=42)

# 定义随机森林回归器
rf = RandomForestRegressor()


#定义参数网格
param_grid = {
     'n_estimators': [200, 300, 500,700,1000],  # 决策树数量
    'max_depth': [10, 20,],  # 最大树深度
     'min_samples_split': [2, 5,10,20],  # 节点分裂所需的最小样本数
   'min_samples_leaf': [1,2,4,8],  # 叶节点所需的最小样本数
  'max_features': ['sqrt']  # 最大特征数
 }

# 创建网格搜索对象
grid_search = GridSearchCV(estimator=rf, param_grid=param_grid, cv=5)

# 在训练集上进行参数搜索
grid_search.fit(X_train, y_train)
# 打印每个参数组合的结果
print("Grid Search Results:")
for params, mean_score, std_score in zip(grid_search.cv_results_['params'], grid_search.cv_results_['mean_test_score'], grid_search.cv_results_['std_test_score']):
    print(f"Parameters: {params}")
    print(f"Mean Score: {mean_score:.4f}")
    print(f"Std Score: {std_score:.4f}")
    print("--------------------")
# 打印最佳参数组合
print("Best Parameters:")
print(grid_search.best_params_)

# 打印最佳参数组合
best_params = grid_search.best_params_
logging.info("Best Parameters:")
logging.info(best_params)

# 使用最佳参数组合的模型进行预测
best_rf = grid_search.best_estimator_
y_pred = best_rf.predict(X_test)

# 在测试集上评估模型性能
mae = np.mean(abs(y_pred - y_test))
mse = np.mean((y_pred - y_test) ** 2)
rmse = np.sqrt(mse)
r2 = best_rf.score(X_test, y_test)

print("MAE:", mae)
print("MSE:", mse)
print("RMSE:", rmse)
print("R^2:", r2)
# 输出测试指标到日志
logging.info('测试集指标')
logging.info("MAE: %f", mae)
logging.info("MSE: %f", mse)
logging.info("RMSE: %f", rmse)
logging.info("R^2: %f", r2)

RF.py

'''
@Project :moxing 
@File    :RF.py
@IDE     :PyCharm 
@Author  :11
@Date    :2023/6/29 13:41
'''
import numpy as np
import pandas as pd
from sklearn.ensemble import RandomForestRegressor
from sklearn.model_selection import train_test_split
from sklearn.metrics import mean_absolute_error, mean_squared_error, r2_score
import logging
# 配置日志输出
# logging.basicConfig(filename='02month_rf_model.log', level=logging.INFO)
# 读取数据
data = pd.read_csv(r'G:\RF\month_12\month_average\average11.csv')
# 定义特征和目标列
X = data.drop(columns=['co2'])
y = data['co2']

# 划分训练集和测试集
X_train, X_test, y_train, y_test = train_test_split(X, y, test_size=0.2, random_state=42)

# 定义随机森林回归器,并设置最优参数
rf = RandomForestRegressor(n_estimators=200, max_depth=30, min_samples_split=2,
                           min_samples_leaf=1, max_features='log2',bootstrap='False')

# 使用最优参数进行训练
rf.fit(X_train, y_train)

# 在测试集上进行预测
y_pred = rf.predict(X_test)

# 保存测试集的真值和预测值到 test_csv
test_data = pd.DataFrame({'y_true': y_test, 'y_pred': y_pred})
test_data.to_csv(r'G:\RF\month_12\month_average\RF\RF_test_csv_01.csv', index=False)

# 计算评估指标
mae = mean_absolute_error(y_test, y_pred)
mse = mean_squared_error(y_test, y_pred)
rmse = np.sqrt(mse)
# 计算相关系数
R = np.corrcoef(y_pred, y_test)[0, 1]
# 输出评估指标
print("MAE:", mae)
print("MSE:", mse)
print("RMSE:", rmse)
print("R:", R)

有问题的可以看作者名字q

您可能感兴趣的与本文相关的镜像

Python3.9

Python3.9

Conda
Python

Python 是一种高级、解释型、通用的编程语言,以其简洁易读的语法而闻名,适用于广泛的应用,包括Web开发、数据分析、人工智能和自动化脚本

### 关于机器学习反演算法的实现 #### 1. 遥感影像中的回归反演 在遥感领域,机器学习中的回归算法可以应用于各种数的反演任务。例如,通过构建回归模型来估算水体质量数、土壤成分或植被生物量等指标[^2]。 以下是使用Python和`scikit-learn`库实现的一元线性回归和多元线性回归的例子: ```python import numpy as np from sklearn.linear_model import LinearRegression from sklearn.model_selection import train_test_split # 构造模拟数据集 (X: 特征, y: 目标值) np.random.seed(0) X = np.random.rand(100, 3) # 假设有三个特征 y = X[:, 0] * 2 + X[:, 1] * 3 + X[:, 2] * (-1) + 0.5 + np.random.randn(100) * 0.1 # 划分训练集和测试集 X_train, X_test, y_train, y_test = train_test_split(X, y, test_size=0.2) # 创建并拟合线性回归模型 model = LinearRegression() model.fit(X_train, y_train) # 输出模型系数和截距 print(f"模型系数: {model.coef_}") print(f"模型截距: {model.intercept_}") # 测试集上的预测 y_pred = model.predict(X_test) # 计算均方误差 mse = ((y_test - y_pred)**2).mean() print(f"均方误差: {mse:.4f}") ``` 上述代码展示了一个简单的线性回归模型如何用于拟合多维输入数据,并计算预测性能指标。 --- #### 2. 支持向量机(SVM)回归 支持向量机不仅适用于分类问题,还可以扩展到回归场景(SVR)。以下是一个基于SVM的回归模型实现示例: ```python from sklearn.svm import SVR # 使用相同的X_train, y_train数据 svr_model = SVR(kernel='rbf', C=1e3, gamma=0.1) svr_model.fit(X_train, y_train) # 测试集上的预测 y_svr_pred = svr_model.predict(X_test) # 计算均方误差 svr_mse = ((y_test - y_svr_pred)**2).mean() print(f"SVM回归均方误差: {svr_mse:.4f}") ``` 此代码片段说明了如何利用径向基函数(RBF)核的支持向量机进行回归分析。 --- #### 3. 随机森林(Random Forest)回归 随机森林是一种集成学习方法,广泛应用于回归任务中。它通过对多个决策树的结果取平均值来提高泛化能力。 ```python from sklearn.ensemble import RandomForestRegressor rf_model = RandomForestRegressor(n_estimators=100, random_state=0) rf_model.fit(X_train, y_train) # 测试集上的预测 y_rf_pred = rf_model.predict(X_test) # 计算均方误差 rf_mse = ((y_test - y_rf_pred)**2).mean() print(f"随机森林回归均方误差: {rf_mse:.4f}") ``` 这段代码实现了随机森林回归器,并评估了其在测试集上的表现[^1]。 --- #### 4. 凸优化算法的应用 除了传统的机器学习方法外,某些特定应用场景下的反演问题可以通过凸优化技术解决。例如,在无人机路径规划中,凸优化可用于找到全局最优解而避免陷入局部极小值[^4]。 下面提供一个简单的一维凸优化求解实例: ```python import cvxpy as cp # 定义变量 x = cp.Variable() # 定义目标函数 objective = cp.Minimize((x - 2)**2) # 添加约束条件 constraints = [-1 <= x, x <= 3] # 解决优化问题 prob = cp.Problem(objective, constraints) result = prob.solve() print(f"最佳解: {x.value}, 最优值: {result}") ``` 以上代码演示了如何使用CVXPY库定义并求解一个基本的凸优化问题。 --- #### 总结 不同的机器学习算法可以根据具体需求选择适合的方法来进行遥感或其他领域的反演工作。无论是经典的回归模型还是先进的深度学习框架,都可以为复杂系统的建模与预测提供有力工具。
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
红包 添加红包
表情包 插入表情
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值