Python机器学习与深度学习
关注
分享
扫一扫
我的课题是深度学习，一定要学好深度学习与机器学习
Code进阶狼人
Stay hungry and modest
展开
-
经典CNN网络结构
经典CNN网络结构Le-Net5 网络结构def inference(input_tensor,train,regularizer): #第一层：卷积层，过滤器的尺寸为5×5，深度为6,不使用全0补充，步长为1。 #尺寸变化：32×32×1->28×28×6 with tf.variable_scope('layer1-conv1'): conv...原创 2020-01-06 12:15:28 · 754 阅读 · 0 评论 -
Variational Auto-Encoder Example
Variational Auto-Encoder ExampleBuild a variational auto-encoder (VAE) to generate digit images from a noise distribution with TensorFlow.Author: Aymeric DamienProject: https://github.com/aymericd...原创 2020-01-06 11:58:37 · 324 阅读 · 0 评论 -
TensorFlow实例：Autoencoder与聚类结合在预测用户偏好中的应用
实例：Autoencoder与聚类结合在预测用户偏好中的应用上篇博文我们用tensorflow实现了Autoencoder用tensorflow构建一个两层的auto-encoder本文具体数据集与源代码可从我的GitHub地址获取https://github.com/liuzuoping/Deep_Learning_note项目背景：电商数据，包含30w条数据，一共150种商品品类...原创 2020-01-06 10:40:21 · 698 阅读 · 1 评论 -
用tensorflow构建一个两层的auto-encoder
Auto-Encoder Example本文具体数据集与源代码可从我的GitHub地址获取https://github.com/liuzuoping/Deep_Learning_note用tensorflow构建一个两层的auto-encoder，把图像压缩到一个低维隐层空间并重构。Auto-Encoder 概览参考文献:Gradient-based learning applie...原创 2020-01-03 17:25:56 · 390 阅读 · 0 评论 -
Tensorflow中的正则化
Tensorflow中的正则化参数加正则项在损失函数上加上正则项是防止过拟合的一个重要方法,下面介绍如何在TensorFlow中使用正则项.tensorflow中对参数使用正则项分为两步:创建一个正则方法(函数/对象)将这个正则方法(函数/对象),应用到参数上如何创建一个正则方法函数tf.contrib.layers.l1_regularizer(scale, scope=Non...原创 2020-01-03 15:46:13 · 2101 阅读 · 0 评论 -
激活函数的实现
激活函数的实现Sigmoid函数的实现class Sigmoid(Operator): def __init__(self, input_variable=Variable, name=str): self.input_variables = input_variable self.output_variables = Variable(self.inp...原创 2020-01-03 15:38:45 · 541 阅读 · 0 评论 -
Tensorflow快速入门——知识点总结
Tensorflow快速入门知识点总结梯度下降方法总结模型保存和恢复前两篇博文我们实现了线性回归与手写数字识别Tensorflow快速入门——线性回归Tensorflw快速入门——运用逻辑回归算法手写数字识别本文具体数据集与源代码可从我的GitHub地址获取https://github.com/liuzuoping/Deep_Learning_note梯度下降方法总结Te...原创 2020-01-03 15:30:53 · 516 阅读 · 0 评论 -
Tensorflw快速入门——运用逻辑回归算法手写数字识别
Tensorflw快速入门二手写数字识别运用逻辑回归算法对手写数字进行识别上篇博文我们用tensorflow实现了线性回归Tensorflow快速入门——线性回归今天我们运用逻辑回归算法对手写数字进行识别本文具体数据集与源代码可从我的GitHub地址获取https://github.com/liuzuoping/Deep_Learning_noteMNIST 数据集简介手写...原创 2020-01-03 15:00:04 · 656 阅读 · 0 评论 -
Tensorflow快速入门——线性回归
Tensorflow快速入门二线性回归运用Tensorflow进行线性回归#--*coding--:utf-8import tensorflow as tfimport numpyimport matplotlib.pyplot as pltrng = numpy.random参数设定learning_rate = 0.01training_epochs = 10000...原创 2020-01-03 14:41:07 · 340 阅读 · 0 评论 -
用自己的数据集训练Tensorflow模型
用自己的数据集训练Tensorflow模型上篇博文我们用tensorflow实现了一些简单的图像处理TensorFlow中的图像处理今天我们进一步来学习tensorflow本文具体数据集与源代码可从我的GitHub地址获取https://github.com/liuzuoping/Deep_Learning_note数据预处理数据的读取数据读取根据tensorflow的官方教...原创 2020-01-03 14:23:52 · 1377 阅读 · 0 评论 -
TensorFlow中的图像处理
本文具体数据集与源代码可从我的GitHub地址获取https://github.com/liuzuoping/Deep_Learning_note数据预处理编码处理以下代码示范对 JPEG 格式图像的解码处理#--coding--:utf-8import tensorflow as tfimport matplotlib.pyplot as plt# 读取图像的原始数据im...原创 2020-01-03 14:07:23 · 615 阅读 · 0 评论 -
用ANN预测客户流失数据
这次我们用python来对客户流失数据进行预测相关完整代码与csv文件可以从我的GitHub地址获取读取客户流失数据import pandasdf = pandas.read_csv('../data/customer_churn.csv', index_col=0, header = 0)df.head()数据前处理cat_var = ['international_plan'...原创 2019-12-09 20:55:26 · 1509 阅读 · 0 评论 -
深度学习笔记——tensorflow的使用
tensorflow的安装就不用多说了直接pip install tensorflow=版本号或者直接在VSCode终端conda install tensorflow可以快速安装最新版tensorflow接下来我们来学习一些tensorflow的基本操作Constant (常数)import tensorflow as tfx = tf.constant(100)xtype(x)...原创 2019-12-05 17:45:12 · 495 阅读 · 0 评论 -
深度学习实战——客户流失数据建模
上篇博文我们自己训练了一个ANN这次我们用ANN来对客户流失数据进行建模与预测相关代码与源文件可以从我的GitHub地址获取https://github.com/liuzuoping/Deep_Learning_note读取客户流失数据import pandasdf = pandas.read_csv('../data/customer_churn.csv', index_col=0,...原创 2019-12-05 17:10:39 · 1723 阅读 · 3 评论 -
训练一个ANN人工神经网络
本篇我们来训练一个ANN人工神经网络详细代码文件可以从我的GitHub地址获取https://github.com/liuzuoping/Deep_Learning_note准备好建立网络所需import numpy as npdef softmax_function(x): return np.exp(x) / np.sum(np.exp(x))def sigmoid_fu...原创 2019-12-05 16:45:25 · 1591 阅读 · 1 评论 -
深度学习笔记——pytorch的使用（下）
上篇博文我们安装并且学会了初步使用pytorch深度学习笔记——pytorch的使用（上）现在我们来开始更加深入的学习标准正态分布数据的张量import pytorchimport numpy as npa = torch.ones((3,4))t = torch.randn_like(a)print(t)tensor([[-1.3571e-01, -2.4681e-01,...原创 2019-12-05 16:19:01 · 378 阅读 · 0 评论 -
深度学习笔记——pytorch的使用（上）
聊到深度学习, 大家第一感觉就是很高大上。就像我们曾经说到机器学习，很多人也是感觉很高大上，但是慢慢接触之后，发现其无非是数学+编程实现，所以从线性回归开始，不断学习，把各种机器学习方法都学习了一遍，并能够通过Python的sklearn库编程实现。有很多朋友和我聊到学习深度学习这个事情，我会推荐他们去看一些相关理论算法，从CNN、RNN到LSTM，从各种传统的深度学习网络结构到比较新的网络结构...原创 2019-12-05 15:54:26 · 619 阅读 · 0 评论 -
机器学习实战——招聘数据建模（下）
上篇博文我们对机器学习有了大致的了解https://blog.youkuaiyun.com/liuzuoping/article/details/103335958现在我们来看看实际的招聘数据建模招聘数据的建模：GBDTimport pandas as pdimport numpy as npdf = pd.read_csv('./lagou_featured.csv', encoding='g...原创 2019-12-01 16:38:41 · 1036 阅读 · 0 评论 -
机器学习实战——招聘数据建模（上）
前面我们学习了数据预处理与特征工程文章目录1.机器学习模型概述2.传统机器学习模型（单模型）3.集成与提升模型（boosting）4.sklearn5.机器学习调参6. GBDT/XGBoost/lightGBMXGBoostlightGBM1.机器学习模型概述模型与算法模型：一类问题的解题步骤，即一类问题的算法。算法：能够解决特定问题的无歧义、机械、有效的运算流程和规则。机器...原创 2019-12-01 16:16:12 · 1745 阅读 · 0 评论 -
机器学习实战——特征工程(下）
上篇博文我们一起学习了特征工程机器学习实战——特征工程(上）现在我们对招聘数据进行特征工程探索具体代码与源文件可以从我的GitHub地址获取https://github.com/liuzuoping/MeachineLearning-Case欢迎star~7.招聘数据的特征工程探索import warningswarnings.filterwarnings('ignore')im...原创 2019-12-01 15:51:09 · 397 阅读 · 0 评论 -
机器学习实战——特征工程(上）
特征工程1.特征工程概述什么是特征工程？特征工程指的是最大程度上从原始数据中汲取特征和信息来使得模型和算法达到尽可能好的效果。特征工程具体内容包括：数据预处理特征选择特征变换与提取特征组合数据降维特征工程的两个基本面：基于数理和模型的考虑基于业务的考虑（需要了解数据所属业务领域的专业知识）几个重要观点：在实际的特征工程实践中，这两个基本面都要考虑，尤其是业务层...原创 2019-12-01 15:34:43 · 816 阅读 · 2 评论 -
高级分类器：支持向量机( SVM)与凸优化
前几篇博文分别介绍了一些逻辑回归与决策树以及神经网络的实战案例数据挖掘实战案例——客户细分数据挖掘实战实例——信用评级机器学习实例——信用评级全流程实现机器学习实战——使用决策树进行初始信用评级机器学习实战——使用神经网络进行客户流失预警现在我们来研究研究支持向量机同样是实战案例具体代码与数据集可访问下面的GitHub地址GitHub地址读取数据集%matplotlib in...原创 2019-11-24 20:19:32 · 949 阅读 · 0 评论 -
机器学习实战——使用神经网络进行客户流失预警
这次的实战案例是使用神经网络进行客户流失预警具体代码与数据集可访问下面的GitHub地址GitHub地址有兴趣可以git clone下来自己跑一下代码读取数据集%matplotlib inlineimport numpy as npimport pandas as pdimport matplotlib.pyplot as pltchurn = pd.read_csv('tele...原创 2019-11-24 19:50:16 · 1784 阅读 · 0 评论 -
机器学习实战——使用决策树进行初始信用评级
这次使用决策树对信用进行评级数据源与上两篇博文相同数据挖掘实例——信用评级机器学习实例——信用评级全流程实现详细代码与数据可以访问下面的GitHub地址GitHub地址读取数据import pandas as pdimport numpy as npchurn = pd.read_csv('telecom_churn.csv') # 读取已经整理好的数据churn.head(...原创 2019-11-24 19:20:53 · 2165 阅读 · 1 评论 -
机器学习实例——信用评级全流程实现
文章目录读取并选择数据定义缺失值替换函数并填补缺失值标准化数据利用knn模型进行预测，做拒绝推断将审核通过的申请者和未通过的申请者进行合并分类变量转换处理异常值利用随机森林填补变量变量细筛与数据清洗WOE转换划分数据集构建逻辑回归模型，进行违约概率预测加入代价敏感参数，重新计算检验模型利用sklearn.metrics中的roc_curve算出tpr，fpr作图上篇博文我们对汽车违约数据进行了预...原创 2019-11-24 16:42:10 · 3624 阅读 · 0 评论 -
数据挖掘实例——信用评级
本次的源数据是汽车违约贷款数据集accepts.csv原始数据与源代码可以在GitHub中下载GitHub地址如果有兴趣可以git clone下来自己跑一跑代码读取源数据import osimport numpy as npfrom scipy import statsimport pandas as pdimport statsmodels.api as smimport s...原创 2019-11-24 15:26:04 · 3933 阅读 · 2 评论 -
数据挖掘实战案例——客户细分
我们首先来看看原始数据具体代码与原始数据可以在我的GitHub中git clone一下学习代码与数据github地址共26663条数据此次分析是想对根据客户的购买情况对客户进行细分分析用户的购买消费行为首先读取csvimport pandas as pd#import numpy as nptrad_flow = pd.read_csv('./购买情况.csv', encodi...原创 2019-11-23 15:40:09 · 5913 阅读 · 3 评论 -
机器学习实战——数据转换
数据标准化通常情况下是为了消除量纲的影响。譬如一个百分制的变量与一个5分值的变量在一起怎么比较？只有通过数据标准化，都把它们标准到同一个标准时才具有可比性，一般标准化采用的是Z标准化，即均值为0，方差为1，当然也有其他标准化，比如0–1标准化等等，可根据自己的数据分布情况和模型来选择适用情况看模型是否具有伸缩不变性。不是所有的模型都一定需要标准化，有些模型对量纲不同的数据比较敏感，譬如S...原创 2019-11-20 11:30:56 · 805 阅读 · 0 评论 -
python数据挖掘实战——KNN
KNN方法的简单描述：KNN方法用于分类，其基本思想如下。我们已经有一些已知类型的数据，暂称其为训练集。当一个新数据（暂称其为测试集）进入的时候，开始跟训练集数据中的每个数据点求距离，挑选与这个训练数据集中最近的K个点看这些点属于什么类型，用少数服从多数的方法将测试数据归类。KNN实战案例这里我们选取一个150*5的矩阵，分别代表三类数据。每行的前四个值代表数据的特征，第五个值代表数据的类别。...原创 2019-11-20 10:41:16 · 941 阅读 · 1 评论 -
机器学习从零开始系列连载（五）——纯Python手写感知机模型
文章目录感知机实现原理感知机python代码实现准备数据取数据并且定义初始化与sign函数训练结果可视化perceptron类封装感知机是二类分类的线性分类模型，其输入为实例的特征向量，输出为实例的类别，取+1和-1二值。感知机对应于输入空间（特征空间）中将实例划分为正负两类的分离超平面，属于判别模型。感知机学习旨在求出将训练数据进行线性划分的分离超平面，为此，导入基于误分类的损失函数，利用梯度...原创 2019-10-02 21:08:42 · 721 阅读 · 1 评论 -
机器学习从零开始系列连载（四）——纯Python手写决策树模型
文章目录决策树ID3算法理论ID3算法实现熵的计算函数：定义数据划分方法：选择最佳特征：构造ID3决策树sklearn实现ID3决策树CART算法理论回归树分类树剪枝CART分类树的构建过程决策树决策树是个超简单结构，我们每天都在头脑中使用它。它代表了我们如何做出决策的表现形式之一，他是一系列if–then-else规则的集合先看一个决策树的例子，决定某人是否应该在特定的一天打棒球。决策树...原创 2019-09-29 18:24:58 · 2009 阅读 · 0 评论 -
机器学习从零开始系列连载（三）——纯Python手写KNN模型
文章目录KNN---最近邻，k-NearestNeighbor使用场景：执行步骤注意问题knn 的 Python 实现导入相关的 package 和设定绘图参数：导入数据集定义 L2 距离度量函数：测试集与训练集实例的距离并对距离矩阵进行可视化使用多数表决的分类决策规则定义预测函数预测测试集的类别准确率：使用 5 折交叉验证来选择最优的 k 值：对不同 k 值下的分类准确率进行可视化展示：函数化封...原创 2019-09-28 22:15:58 · 431 阅读 · 0 评论 -
机器学习从零开始系列连载（二）——纯Python手写逻辑回归模型
文章目录逻辑回归优缺点sigmoid 函数逻辑回归模型的数学推导Python 实现逻辑回归定义模型参数初始化函数：模型主体部分定义基于梯度下降的参数更新训练过程：定义对测试数据的预测函数：模型训练和测试：对数据进行简单的训练集与测试集的划分：对训练集进行训练并对测试集数据进行预测：对训练集和测试集的准确率进行评估：绘制模型决策边界的图形函数对训练结果进行可视化展示：使用一个 python 类进行逻...原创 2019-09-25 15:13:53 · 1296 阅读 · 0 评论 -
机器学习从零开始系列连载（一）——纯Python手写线性回归模型
文章目录最小二乘法最小乘法的证明回归分析的数学推导numpy 实现线性回归回归模型主体：参数初始化：基于梯度下降的参数更新过程：数据准备：执行训练并查看训练得到的回归模型参数值对测试集结果进行预测并展示class 封装该线性回归运行结果机器学习工程师40万起步~什么待遇这么好，是的就是这么高，但是门槛也很高，需要学习的东西很多，接下来我们来手写一下线性回归模型，开始我们的机器学习之路最小二乘...原创 2019-09-25 12:09:50 · 1891 阅读 · 1 评论 -
李航《统计学习方法》学习笔记
文章目录统计学习方法概论监督学习知识点统计学习方法概论统计学习方法三要素：模型、策略和算法统计学习的目的：统计学习用于对数据进行预测与分析，特别是对未知算机的某些性能得到所数据进行预测与分析.对数据的预测可以使计算机更加智能化，或者说使计高:对数据的分析可以让人们获取新的知识，给人们带来新的发现.对数据的预测与分析是通过构建概率统计模型实现的.统计学习总的目标是考虑学习什么样的模型和如何...原创 2019-09-12 16:03:59 · 4357 阅读 · 0 评论 -
Windows系统下如何安装TensorFlow
TensorFlow™是一个基于数据流编程（dataflow programming）的符号数学系统，被广泛应用于各类机器学习（machine learning）算法的编程实现，其前身是谷歌的神经网络算法库DistBelief 。Tensorflow拥有多层级结构，可部署于各类服务器、PC终端和网页并支持GPU和TPU高性能数值计算，被广泛应用于谷歌内部的产品开发和各领域的科学研究众所周知，p...原创 2019-08-25 19:21:46 · 499 阅读 · 0 评论 -
用TensorFlow构建简单的线性回归模型
自定义w与b用TensorFlow去学习并且准确预测出w和b线性回归是利用数理统计中回归分析，来确定两种或两种以上变量间相互依赖的定量关系的一种统计分析方法，运用十分广泛。其表达形式为y = wx+b+e，e为误差服从均值为0的正态分布。回归分析中，只包括一个自变量和一个因变量，且二者的关系可用一条直线近似表示，这种回归分析称为一元线性回归分析。如果回归分析中包括两个或两个以上的自变量，且因...原创 2019-08-25 18:55:48 · 549 阅读 · 0 评论