7.25 python建模基础

### KNN分类算法在Iris数据集上的实现 以下是使用Python从头实现KNN分类算法并在Iris数据集上测试其性能的完整流程。此过程涵盖了加载数据、划分训练集和测试集、定义KNN模型、进行预测以及计算准确率。 #### 数据准备 首先,加载Iris数据集并将其划分为训练集和测试集。这里可以利用`sklearn.datasets`中的内置Iris数据集来完成这一操作[^2]。 ```python from sklearn.model_selection import train_test_split from sklearn.datasets import load_iris import numpy as np # 加载Iris数据集 data = load_iris() X, y = data.data, data.target # 划分训练集和测试集 X_train, X_test, y_train, y_test = train_test_split(X, y, test_size=0.3, random_state=42) ``` #### 定义KNN分类器 下面是从零开始实现的一个简单的KNN分类器。该分类器基于欧氏距离度量找到最近邻点,并返回多数投票的结果。 ```python class KNNClassifier: def __init__(self, k=3): self.k = k def fit(self, X, y): self.X_train = X self.y_train = y def predict(self, X): predictions = [] for sample in X: distances = [np.linalg.norm(sample - x_train) for x_train in self.X_train] indices = np.argsort(distances)[:self.k] nearest_labels = [self.y_train[i] for i in indices] most_common_label = max(set(nearest_labels), key=lambda label: nearest_labels.count(label)) predictions.append(most_common_label) return np.array(predictions) knn_model = KNNClassifier(k=5) knn_model.fit(X_train, y_train) y_pred = knn_model.predict(X_test) ``` #### 计算准确率 为了评估模型的表现,可以通过比较真实标签与预测标签之间的匹配程度来计算准确率。 ```python def accuracy(y_true, y_pred): correct_predictions = (y_true == y_pred).sum() total_samples = len(y_true) return correct_predictions / total_samples accuracy_score = accuracy(y_test, y_pred) print(f"Accuracy of the model on test set is {accuracy_score * 100:.2f}%") ``` 以上代码实现了完整的KNN分类流程,并针对Iris数据集进行了实验验证[^4]。 --- ### 泰坦尼克号幸存者预测的相关背景说明 泰坦尼克号幸存者预测通常涉及更复杂的特征工程和建模技术。虽然本案例专注于简单实现KNN分类器,但在实际应用中,可能还需要考虑诸如缺失值填充、类别编码等问题。这类似于CatBoost对于类别特征的独特处理方式[^1]。 此外,在构建模型时,还可以采用交叉验证策略进一步优化超参数选择。例如,通过五折交叉验证确保每一轮都充分利用了全部的数据资源[^3]。 --- ###
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值