硕鼠的博客

sklearn.linear_model.LogisticRegression接口参数sklearn.linear_model.LogisticRegression接口参数参数列表 class sklearn.linear_model.LogisticRegression(penalty='l2', dual=False, tol=0.0001, C=1.0, fit_i...

scikit-learn 朴素贝叶斯类库朴素贝叶斯方法是基于贝叶斯定理的一组有监督学习算法，即“简单”地假设每对特征之间相互独立。 给定一个类别 yyy 和一个从$ x_1$ 到 xnx_nxn​的相关的特征向量， 贝叶斯定理阐述了以下关系:P(y∣x1，x2，…，xn)=P(y)P(x1，…，xn∣y)P(x1，…，xn) P(y|x_1，x_2，\ldots，x_n) = \frac...

朴素贝叶斯朴素贝叶斯是生成方法，也就是直接找出特征输出Y和特征X的联合分布P(X,Y)P(X,Y)P(X,Y)，然后再利用P(Y∣X)=P(X,Y)P(X)P(Y|X)=\frac{P(X,Y)}{P(X)}P(Y∣X)=P(X)P(X,Y)​得出。1. 相关的统计学知识条件独立公式，如果X和Y相互独立：P(X,Y)=P(X)P(Y) P(X,Y) = P(X)P(Y) P(X,Y)=P...

1.构建决策树的算法流程Input：训练集D=(x1,y1)，(x2，y2)，⋯(xm,ym)D = {(x_1, y_1)，(x_2，y_2)，\cdots (x_m, y_m)}D=(x1​,y1​)，(x2​，y2​)，⋯(xm​,ym​) ，属性集A=a1,a2,a3,⋯adA={a_1, a_2, a_3, \cdots a_d}A=a1​,a2​,a3​,⋯ad​，阀值ϵ\epsi...

# numpy库下的几个小函数的用法# 1、mat函数## mat函数可以将目标数据的类型转换为矩阵（matrix）## 2、zeros## zeros函数是生成指定维数的全0数组## 3、ones## ones函数是用于生成一个全1的数组## 4.eye## eye函数用户生成指定行数的单位矩阵## 5、.T## .T作用于矩阵，用作球矩阵的转置## 6...

import numpy as npdef load_data_set(file_name): data_mat = [] label_mat = [] fr = open(file_name) for line in fr.readlines(): line_arr = line.strip().split('\t') data...

import mathimport numpy as npimport matplotlib.pyplot as pltdef load_data_set(): data_mat = [] label_mat = [] fr = open('testSet.txt') for line in fr.readlines(): line_arr ...

from numpy import *import feedparserdef load_data_set(): posting_list = [['my', 'dog', 'has', 'flea', 'problem', 'help', 'please', ], \ ['maybe', 'not', 'take', 'him', 'to',...

决策树代码from math import logimport operatordef calc_shannon_ent(data_set): num_entries = len(data_set) label_counts = { } for feat_vec in data_set: current_label = feat_vec[-1]...

数据分类对未知类别属性的数据集合中的每个点以此执行以下操作： 1. 计算已知类别数据集中的点与当前点之间的距离; 2. 按照距离递增依次排序; 3. 选取与当前点距离最小的k个点; 4. 确定前k个点所在类别出现的频率; 5. 返回前k个点出现频率最高的类别作为当前点的预测分类;def classify0(in_x, data_set, labels, k): ...

朴素贝叶斯朴素贝叶斯是生成方法，也就是直接找出特征输出Y和特征X的联合分布P(X,Y)P(X,Y)P(X,Y)，然后再利用P(Y∣X)=P(X,Y)P(X)P(Y|X)=\frac{P(X,Y)}{P(X)}P(Y∣X)=P(X)P(X,Y)​得出。1. 相关的统计学知识条件独立公式，如果X和Y相互独立：P(X,Y)=P(X)P(Y) P(X,Y) = P(X)P(Y) P(X,Y)=P...