【读书笔记】机器学习实战 第7章 7.7节非均衡分类问题

机器学习实战

7.7节 非均衡分类问题

---

• 分类性能指标：

错误率 指错分样本的比例，这样的度量掩盖了样例是如何被错分的事实。有一个普遍适用的称为混淆矩阵

-

$$\begin{array}{c|lcr} &\text{预测(+1)}&\ 预测(-1)\\ \hline 真实(+1)& 真正例（TP）&\ 伪反例（FN）\\ 真实(-1)&伪正例（FP）&\ 真反例（TN） \end{array}$$

-

分类中，当某个类别的重要性高于其他类别时，可以利用混淆矩阵定义出比错误率更好的指标：

---

1. 查准率/正确率
   

   $$P=\frac{TP}{TP+FP}$$

2. 查全率/召回率
   

   $$R=\frac{TP}{TP+FN}$$

3. P-R曲线/查准率-查全率曲线

---

1. 真正确率/真阳率 TPR
   $$TPR=\frac{TP}{TP+FN}$$
2. 假正确率/假阳率 FPR
   $$FPR=\frac{FP}{TN+FP}$$
3. ROC曲线

---

机器学习实战 7.7 节

# ROC曲线绘制
def plotROC(predStrengths, classLabels):# 预测强度向量，样本标签
    import matplotlib.pyplot as plt  # 导入库
    cur = (1.0,1.0) #cursor
    ySum = 0.0 #variable to calculate AUC
    numPosClas = sum(array(classLabels)==1.0)
    yStep = 1/float(numPosClas); xStep = 1/float(len(classLabels)-numPosClas)
    sortedIndicies = predStrengths.argsort()#get sorted index, it's reverse
    fig = plt.figure()
    fig.clf()
    ax = plt.subplot(111)
    #loop through all the values, drawing a line segment at each point
    for index in sortedIndicies.tolist()[0]:
        if classLabels[index] == 1.0:
            delX = 0; delY = yStep;
        else:
            delX = xStep; delY = 0;
            ySum += cur[1]
        #draw line from cur to (cur[0]-delX,cur[1]-delY)
        ax.plot([cur[0],cur[0]-delX],[cur[1],cur[1]-delY], c='b')
        cur = (cur[0]-delX,cur[1]-delY)
    ax.plot([0,1],[0,1],'b--')
    plt.xlabel('False positive rate'); plt.ylabel('True positive rate')
    plt.title('ROC curve for AdaBoost horse colic detection system')
    ax.axis([0,1,0,1])
    plt.show()
    print "the Area Under the Curve is: ",ySum*xStep