以“良/恶性乳腺癌肿瘤预测”为例学习二分类问题

本文通过“良/恶性乳腺癌肿瘤预测”数据，介绍二分类问题的处理和模型训练。首先，对数据进行预处理，替换缺失值并划分训练、测试集。然后，使用逻辑斯蒂回归和随机梯度下降进行模型训练和预测。

摘要生成于 C知道，由 DeepSeek-R1 满血版支持，前往体验 >

二分类问题即判断是非，从两个类别中选择一个作为预测结果。这里以“良/恶性乳腺癌肿瘤预测”数据为例进行实践。

数据地址：http://archive.ics.uci.edu/ml/machine-learning-databases/breast-cancer-wisconsin/breast-cancer-wisconsin.data

数据共有699条样本，每条样本有11列不同的数值，1列用于检索的id，9列与肿瘤相关的医学特征，1列表征肿瘤类型的数值。所有9列用于表示肿瘤医学特征的数值均被量化为1~10之间的数字，肿瘤类型也借由数字2和数字4分别指代良性和恶性。数据缺省值用‘?’标出。

1、对数据进行预处理：

import pandas as pd
import numpy as np

#创建特征列表
column_names=['Sample code number','Clump Thickness','Uniformity of Cell Size','Uniformity of Cell Shape','Marginal Adhesion','Single Epithelial Cell Size','Bare Nuclei','Bland Chromatin','Normal Nucleoli','Mito\ses','Class']

#使用pandas.read_csv函数从互联网读取指定数据
data=pd.read_csv('http://archive.ics.uci.edu/ml/machine-learning-databases/breast-cancer-wisconsin/breast-cancer-wisconsin.data',names=column_names)

#将？替换为标准缺失值表示
data=data.replace(to_replace='?',value=np.nan)
#丢弃带有缺失值的数据
data=data.dropna(how='any')

　NumPy是高性能科学计算和数据分析的基础包。pandas 是基于NumPy 的一种工具，该工具是为了解决数据分析任务而创建的。pandas 纳入了大量库和一些标准的数据模型，提供了高效地操作大型数据集所需的工具。pandas提供了大量能使我们快速便捷地处理数据的函数和方法。

replace() 方法把字符串中的 old（旧字符串）替换成 new(新字符串)，如果指定第三个参数max，则替换不超过 max 次。

replace(old, new[, max])

对于一个 Series，dropna() 返回一个仅含非空数据和索引值的Series。问题在于对 DataFrame 的处理方式，因为一旦 drop 的话，至少要丢掉一行（列）。这里的解决方式与前面类似，还是通过一个额外的参数：

dropna(axis=0, how='any', thresh=None)

how 参数可选的值为 any 或者 all。all 仅在切片元素全为 NA 时才抛弃该行(列)。另外一个参数是 thresh，该参数的类型为整数，它的作用是，比如 thresh=3，会在一行中至少有 3 个非 NA 值时将其保留。

2、准备训练、测试数据。

原始数据没有提供对应的测试样本用于评估模型性能，因此对带有标记的数据进行分割。通常25%的数据会作为测试集，其余75%数据用于训练：

#准备训练、测试数据
#使用sklearn.cross_validation里的train_test_split模块分割数据
from sklearn.cross_validation import train_test_split
#随机采样25%的数据用于测试，剩下的75%用于构建训练集合
X_train,X_test,y_train,y_test=train_test_split(data[column_names[1:10]],data[column_names[10]],test_size=0.25,random_state=33)

sklearn是利用python进行机器学习中一个非常全面和好用的第三方库。

关于sklearn.cross_valiation: http://blog.sina.com.cn/s/blog_6a90ae320101a5rc.html 里面有比较详细的讲解。

3、使用线性分类模型从事良/恶性肿瘤预测任务

接下来，我们使用逻辑斯蒂回归与随机梯度参数估计两种方法对上述处理后的训练数据进行学习，并根据测试样本特征进行预测。

from sklearn.preprocessing import StandardScaler
from sklearn.linear_model import LogisticRegression
from sklearn.linear_model import SGDClassifier

#标准化数据，保证每个维度的特征数据方差为1，均值为0.使矩阵结果不会被某些维度过大的特征值主导
ss=StandardScaler()
X_train=ss.fit_transform(X_train)
X_test=ss.transform(X_test)

#初始化LogisticRegression和SGDClassifier
lr=LogisticRegression()
sgdc=SGDClassifier()
#调用LogisticRegression中的fit函数/模块训练模型参数
lr.fit(X_train,y_train)
#使用训练好的模型lr对X_test进行预测，结果存储在变量lr_y_predict中
lr_y_predict=lr.predict(X_test)
#调用SGDClassifier中的fit函数/模块来训练模型参数
sgdc.fit(X_train,y_train)
#使用训练好的模型sgdc对X_test进行预测，结果存储在变量sgdc_y_predict中
sgdc_y_predict=sgdc.predict(X_test)

4、使用线性分类模型从事良/恶性肿瘤预测任务的性能分析

from sklearn.metrics import classification_report
#使用逻辑斯蒂回归模型自带的评分函数score获得模型在测试集上的准确性结果
print('Accuracy of LR Classifier:',lr.score(X_test,y_test))
#利用 classification_report模块获得LogisticRegression其他三个指标的结果
print(classification_report(y_test,lr_y_predict,target_names=['Benign','Malignant']))

#使用随机梯度下降模型自带的评分函数score获得模型在测试集上的准确性结果
print('Accuracy of SGD Classifier:',sgdc.score(X_test,y_test))
#利用 classification_report模块获得SGDClassifier其他三个指标的结果
print(classification_report(y_test,sgdc_y_predict,target_names=['Benign','Malignant']))

根据运行结果可自行判断两种方法孰优孰劣。