Fuguir™的博客

逻辑回归logistic regression分类模型，并常用于二分类。1).概念logistic回归又称logistic回归分析，是一种广义的线性回归分析模型。本质是：假设数据服从这个分布，然后使用极大似然估计做参数的估计。常用于数据挖掘，疾病自动诊断，经济预测等领域。简单、可并行化、可解释强2).Logistic分布：——连续性概率分布分布函数：F(x)=P(X≤x)=11+e−(x−μ)/γ概率密度函数：f(x)=F′(X≤x)=e−(x−μ)/γγ(1+e−(x−μ)/γ)2

UMIST : Face image databaseThe UMIST face image database, available at http://images.ee.umist.ac.uk/danny/database.html, contains 20 subjects, each covering a wide range of multiviewed face images, from profile to frontal views.Fig. 1. Ten sample images

统计学习方法：四. 决策树概念分类决策树的优点缺点特征选择信息增益：熵经验条件熵算法信息增益比决策树的生成算法CLS：(最早，没有明确特征选择方法）ID3：(1986， 信息增益）C4.5：（1993，信息增益比，2006年国际信息挖掘十大算法之首）剪枝概念决策树学习或决策树归纳是统计、数据挖掘和机器学习中使用的预测建模方法之一。它使用决策树（作为预测模型）从对项目的观察（在分支中表示）到关于项目目标值的结论（在叶子中表示）。机器学习中，决策树是一个可理解性和简单性的预测模型；他代表的是对象

matplotlib设置字体 解决plt绘图中文乱码

统计学习方法：三. k近邻法1. 概念2. 算法3. 误差率:(k = 1, 最邻近法的情况）Err(·)上下界机器学习中一种最简单的学习方法1. 概念k 近邻法（k-nearest neighbor，k-NN）是一种基本的分类与回归方法。主要思想:假定给定一个训练数据集，其中实例标签已定，当输入新的实例时，可以根据其最近的k个训练实例的标签，预测新实例对应的标注信息。直观理解2. 算法3. 误差率:(k = 1, 最邻近法的情况）Err(·)上下界...

《统计学习方法》预备知识与概述向量与矩阵梯度逻辑回归模型、策略、算法评价指标

统计学习方法：二.感知机1. 感知机1. 模型介绍模型几何含义模型流程图2. 学习策略条件策略定义损失损失函数为什么可以省略非固定值 1∥w∥\frac{1}{\|w\|}∥w∥1​ ：2.梯度下降法（Gradient descent）1. 概念（最快下山算法）2. 算法3. 原理1. 感知机1. 模型介绍模型几何含义超平面(分离超平面）n−1n-1n−1维模型流程图2. 学习策略最小化损失函数，然后求得参数条件数据集线性可分策略定义损失损失函数为

权重衰减（weight decay）（L2正则化）的作用引自:优快云博主「Microstrong0305」1. 权重衰减（weight decay）L2正则化的目的就是为了让权重衰减到更小的值，在一定程度上减少模型过拟合的问题，所以权重衰减也叫L2正则化。1.1 L2正则化L2正则化就是在代价函数后面再加上一个正则化项：L=L0+12×λ×1n∑ww2\mathcal{L}=\mathcal{L}_{0}+\frac{1}{2}\times{\lambda}\times\frac{1}{n}

札记——C++标准库一、标准库 ⊃\supset⊃ 标准模板库STL二、STL六大部件三、复杂度（Complexity，O(Big-oh)）

信息论(Information Theory）学习笔记绪论应用1.数据压缩2.数据恢复：信息冗余（代价大，可靠性和经济性矛盾）3.大数据：分布式计算和存储4.信息论和AI:香农电子老鼠走迷宫——强化学习。cross-entropy loss function(交叉熵);decision trees(信息增益);==Viterbi algorithm(NLP and Speech)，维特比算法==5.信息安全==信息熵(基本的信息度量==

札记——Leetcode编程刷题记录

mnist数据集预处理：根据数据种类和带标签信息的name，实现文件按label分类存放到子文件夹例如原先是这样，都在一个文件夹中预处理：分类存放是这样：# -*- coding:utf-8 -*-#@Time : 2020/12/31 11:11#@Author: LCHJ#@File : move.py'''根据数据种类和带标签信息的name实现文件按label分类存放到子文件夹'''import shutilimport osdef copyFile...

解决方案——tensorflow 2.0 遇到 AttributeError: module 'tensorflow' has no attribute 'placeholde版本bug~要么降级要么升级，要么下面是解决方案：import tensorflow.compat.v1 as tftf.disable_v2_behavior() If you are using tf v2.0. tf v2.0 does not seems to have placeholder(), .re.

解压和处理mnist数据集和fashion-mnist数据集，将其转换为正常图片格式# -*- coding:utf-8 -*-#@Time : 2020/12/30 11:07#@Author: LCHJ#@File : savemnist.py.py# coding=utf-8'''将二进制格式的MNIST数据集转成.jpg图片格式并保存，图片标签包含在图片名中'''import numpy as npimport cv2import osdef save_mnist_to_.

卷积：对f的加权求和；实例:掷骰子问题其实就是把一个函数卷(翻)过来，然后与另一个函数求内积。 深度学习中的卷积