ljp1919的专栏

0. 背景本系列博文尝试系统化地梳理概率图模型。本文以朴素贝叶斯和HMM为切入点尝试窥探概率图模型一二。1. 预备知识在介绍朴素贝叶斯之前，需要先简单介绍下概率论中的基础知识：条件概率、贝叶斯公式和全概率公式。1.1 条件概率当给定条件发生变化后，会导致事件发生的可能性发生变化。比如:背对着一个人，让你猜猜背后这个人是 男/女的概率是多少? 在没有其他先验信息的情况下，只能猜测50%。但...

0- 背景定义逻辑回归的代价函数时，不能够像线性回归那样，否则代价函数变成一个非函数，难以收敛到全局最优。1- 线性回归代价函数：线性回归中的代价函数： J(θ)=12m∑i=1m(yi−hθ(xi))2J(\theta )=\frac{1}{2m}\sum_{i=1}^{m}(y^{i}-h_{\theta }(x^{i}))^{2}线性回归代价函数的实际意义就是平方误差。

1- 准备工作：需要预先安装的环境：numpy matplotlib h5py PIL 和scipy dnn_app_utils是自定义的函数列表，该函数在上一次的作业中（Building your Deep Neural Network: Step by Step）有使用到。np.random.seed(1) 是为了确保所有的随机函数在调用的时候具有一致性。环境测试：import t

1-背景：此前，我们已经介绍过单隐藏层的神经网络模型，本文要介绍的是多隐藏层的神经网络模型。 采用非线性的如RELU激活函数符号说明：上标 [l][l] 表示层号，lthl^{th} 例如: a[L]a^{[L]} 是第 LthL^{th} 层的激活函数. W[L]W^{[L]} 和b[L]b^{[L]}分别是LthL^{th}层的参数。上标 (i)(i) 表示第ithi^{th}个样本。

0 - 背景：前文，创建的神经网络只有一个输出层，没有隐藏层。本文将创建单隐藏层的神经网络模型。二分类单隐藏层的神经网络神经元节点采用非线性的激活函数，如tanh计算交叉损失函数运用前向和后向传播1- 准备条件：本文实践过程需要以下的python库：numpy Python中常用的科学计算库sklearn 是常用的数据挖掘和分析库 matplotlib 是用于数据可视化testCa

背景：从逻辑回归出发，介绍单层神经网络在模式分类中的简单应用。本文将阐述如何用逻辑回归进行猫的识别。从中，我们将创建一个常见的简单的算法模型： 1：参数初始化 2：计算代价函数及其梯度 3：采用优化算法，如梯度下降算法准备工作：numpy 是科学计算的常用库。h5py 是python中用于处理H5文件的接口。matplotlibpython中常用的图像绘制库。PIL and scipy

背景：L1损失函数：损失函数最简单的定义就是L1损失函数，计算预测值（y^ \hat{y} ）和真实值（y y）之间的绝对差值，并累计求和作为模型的代价函数。通过优化算法如梯度下降算法来使得代价函数L1最小化，从而获取模型。 L1 损失函数的定义: L1(y^,y)=∑i=0m|y(i)−y^(i)|(2)\begin{align*} & L_1(\hat{y}, y) = \sum_{i=0}

背景：数据归一化能够提高梯度下降的收敛速度归一化：归一化方式：x∥x∥ \frac{x}{\| x\|} ，每行除以其行向量的范数。 例如x=[023644](1)x = \begin{bmatrix} 0 & 3 & 4 \\ 2 & 6 & 4 \\\end{bmatrix}\tag{1} 范数的计算：∥x∥=np.linalg.norm(x,axis=1,keepd

背景：求解z=σ(z)z= \sigma(z)的梯度 由于sigmoid(x)=11+e−xsigmoid(x) = \frac{1}{1+e^{-x}} 在python中利用numpy模块实现：# GRADED FUNCTION: sigmoidimport numpy as np# this means you can access numpy functions by writing n

背景：基于生成的字符验证码数据集训练模型，从而实现字符验证码的破解。代码：验证码生成方式：from captcha.image import ImageCaptcha # pip install captchaimport numpy as npimport matplotlib.pyplot as pltfrom PIL import Imageimport random#验证码中的字

背景：在图像上的风格变换（Style Transfer,论文，基于Torch的代码实现：neural-style）同样可以应用于音频中。代码：# -*- coding: utf-8 -*-__author__ = 'jason'import tensorflow as tfimport librosa# 用来提取音频文件, 参看<中文语音识别>import numpy as npimpor

背景采用深度学习的方式玩FlappyBird游戏。安装过程：0.安装Tensorflow： 这部分和之前一样，下载whl文件直接，install方式进行安装 1.安装OpenCV： Download OpenCV 下载OpenCV 在opencv官网 http://opencv.org/ 右侧下载Linux版本的OpenCV cd到下载目录unzip opencv-2.4.13.z

1、全卷积神经网络 FCN FCN 可以说是深度学习在图像语义分割任务上的开创性工作，出自 UC Berkeley 的 Trevor Darrell 组，发表于计算机视觉领域顶级会议 CVPR 2015，并荣获best paper honorable mention。FCN 的思想很直观，即直接进行像素级别端到端（end-to-end）的语义分割，它可以基于主流的深度卷积神经网络模型（CNN）

第一部分，语音生成简介该网络基于给出的样本和附加的条件参数以条件概率的方式产生新的样本，每一个音频样本的预测分布的前提是基于给定的所有先前的样本。在音频预处理步骤之后，输入的波形被归一化在一个固定的整数范围之内。该整数幅值范围通过热编码产生一个由于num_samples和num_channels组成的张量。 接收当前输入和历史输入的卷积层可以对通道进行降维。该网络的核心部分是由一序列的因果扩张层（

ChatterBot中的adapter介绍ChatterBot中采用adapter模块以适用于不同类型的任务。该项目中使用到的adapter有4种，分别是storage adapters, input adapters, output adapters 和logic adapters。Storage AdaptersStorage adapter这一接口使得ChatterBot可以连接不同存储器后端

背景开源聊天机器人项目梳理准备预先安装一些需要的库，安装指令如下。 pip install fuzzywuzzy pip install jsondatabase pip install pymongo http://api.mongodb.com/python/current/installation.html pip install python-twitter https://gi

神经网络算法，其实是一种有向图。通过节点（神经元）的加权输入到下一层节点。clc;clear all;%读取训练数据[f1,f2,f3,f4,class] = textread('trainData.txt' , '%f%f%f%f%f',150);%If N is specified, the format string is reused N times. If