
machine learning
小贺顶詹姆斯
这个作者很懒,什么都没留下…
展开
-
LogisticRegression
python 实现logisticRegression__author__ = 'hxw'import numpy as np"""create by hxwtime 2016.1.31"""class LogisticRegression(object): "class logistic Regression" def __init__(self,n,epo=1000,原创 2016-01-31 20:54:43 · 369 阅读 · 0 评论 -
Softmax
python 实现softmax1、实验使用的数据来自http://sci2s.ugr.es/keel/category.php?cat=clas 2、文中使用了L2正则 3、有关具体的推导请参考Andrew Ng.的课程http://cs229.stanford.edu/#-*- coding=utf-8 -*-import numpy as npclass Softmax(object原创 2016-02-01 17:18:12 · 409 阅读 · 0 评论 -
SVM
1、svm的python实现 2、推导请参考ng讲义,SMO具体实现参考platt原文,以及《统计学习方法》 3、代码部分,以及实验数据参考《machine learning in action》 # -*- coding=utf-8 -*-import numpy as npimport randomclass SVM(object): def __init__(self,tra原创 2016-02-19 18:09:08 · 301 阅读 · 0 评论 -
KNN
1、knn算法的python实现 2、参考machine learning in action __author__ = 'hxw'import numpy as npfrom os import listdirclass knn(): def __init__(self,x,y,k=3): self.k=k self.x=x self原创 2016-02-20 15:50:09 · 350 阅读 · 0 评论 -
KMeans聚类算法
1、算法具体思想请参考ng讲义__author__ = 'hxw'#-*- coding=utf-8-*-import numpy as npimport matplotlib.pyplot as plotclass KMeans(): def __init__(self,train_x,k=5): self.train_x=train_x self.原创 2016-02-22 10:22:22 · 349 阅读 · 0 评论 -
sklearn PCA
一、基本原理 Given m data points in n-dimensions, find p <= n principal components that can be best used to generate the transformed data Data processing: 还原数据: Snew=Sorg * P.transpose() * P原创 2016-03-31 15:56:11 · 2234 阅读 · 0 评论 -
Adaboost
import numpy as npclass adaboost(): def __init__(self,traindata,epo=100,numstep=100): self.x=traindata[:,:-1] self.y=traindata[:,-1] self.epo=epo self.numstep=numst原创 2016-02-23 16:57:20 · 570 阅读 · 0 评论 -
random forest python 实现
一、实验数据实验数据来自http://sci2s.ugr.es/keel/category.php?cat=clas 的mushroom数据集二、设计思路:1、首先,实现一个单一的决策树算法; 2、设定训练树的数目,默认为值为10; 3、根据训练数据集进行采样,此处采样大小为原始数据的一半,相同数据进行合并;对采样之后的数据抽取一半的特征,然后开始训练第一棵决策树; 4、重复步骤3生成其他的决原创 2016-02-25 20:45:08 · 1229 阅读 · 0 评论 -
random forest python 实现
一、实验数据实验数据来自http://sci2s.ugr.es/keel/category.php?cat=clas 的mushroom数据集二、设计思路:1、首先,实现一个单一的决策树算法; 2、设定训练树的数目,默认为值为10; 3、根据训练数据集进行采样,此处采样大小为原始数据的一半,相同数据进行合并;对采样之后的数据抽取一半的特征,然后开始训练第一棵决策树; 4、重复步骤3生成其他的决原创 2016-02-25 20:46:16 · 4923 阅读 · 2 评论