Machine Learning
关注
分享
扫一扫
likyoo
You can visit https://github.com/likyoo for more information.
展开
-
Detecting Urban Changes With Recurrent Neural Network From Multitemporal Sentinel SENTINEL-2 Data
论文地址：IGARSS 2019 - 2019 IEEE International Geoscience and Remote Sensing SymposiumIEEE, 2019.ABSTRACT本文结合了fully convolutional networks (similar to U-Net) for feature representation 和recur...原创 2020-03-31 13:40:03 · 905 阅读 · 2 评论 -
Fully convolutional siamese networks for change detection
arXiv:1810.08462v1 [cs.CV] 19 Oct 2018论文地址：ABSTRACT提出三种全卷积的结构用于已配准的图像对的变化检测，可检测RGB和多光谱的图像。从头的监督训练，比related systems 快500倍。1. INTRODUCTION...原创 2020-03-18 16:29:34 · 4323 阅读 · 7 评论 -
Deep Generative Model
PixelRNN把逐个像素放入网络中，output为下一个像素Variational Autoencoder(VAE)这里要同时Minimize reconstruction error和为什么要使用VAE而不直接用auto-encoder呢？从直觉上来说，VAE相当于在中间的code上家里noise只minimize 它们的 reconstruction e...原创 2020-03-16 11:46:51 · 528 阅读 · 0 评论 -
Change Detection Based on Deep Siamese Convolutional Network for Optical Aerial Images
论文地址：https://sci-hub.ren/10.1109/lgrs.2017.2738149Abstract提出了一种基于深度孪生卷积网络的新型有监督变化检测方法，用于光学航空图像。 我们使用加权对比损失训练孪生卷积网络。 该方法的新颖之处在于，可以学习孪生网络以直接从图像对中提取特征。 与传统的变化检测方法使用的手工特征相比，提取的特征更加抽象和强大。 此外，由于加权对比损...原创 2020-03-14 16:21:38 · 2532 阅读 · 4 评论 -
Ensemble
BaggingBagging一般用在容易overfitting的model上1. “制造"不同的data假设现在有 个 training data，对这 个data 做 Sampling。每次取个data组成一个新的dataset ，每次抽取后要把这个 data 再放回（with replacement）。通常，= （每个dataset并不会一样，因为会 samping 到...原创 2020-03-13 11:08:04 · 225 阅读 · 0 评论 -
Urban change detection for multispectral earth observation using convolution neural network
Urban change detection for multispectral earth observation using convolution neural networkarXiv:1810.08468v1 [cs.CV] 19 Oct 2018论文地址：https://arxiv.org/abs/1810.08468ABSTRACT本文探讨了使用CNN对多光...原创 2020-03-11 23:41:42 · 1729 阅读 · 4 评论 -
遥感图像变化检测数据集
1.武汉多时相场景变化检测数据集 (MtS-WH)Multi-temp Scene Wuhan(MtS-WH) 数据集主要用于进行场景变化检测的方法理论研究与验证。场景变化检测就是在场景语义的层次上，对一定范围区域的土地利用属性变化情况进行检测和分析。本数据集主要包括两张由IKONOS传感器获得的VHR图像，大小为7200 x 6000的大尺寸高分辨率遥感影像。覆盖范围为中国武汉市汉阳区...原创 2020-02-29 17:20:40 · 18085 阅读 · 5 评论 -
DOTA: A Large-scale Dataset for Object Detection in Aerial Images 翻译
DOTA：用于航空图像中目标检测的大规模数据集原文：https://arxiv.org/pdf/1711.10398.pdf官网：https://captain-whu.github.io/DOTA/dataset：https://captain-whu.github.io/DOTA/dataset.htmlAbstract对象检测是计算机视觉中一个重要且具有挑战性的问题。 尽...原创 2020-02-07 11:04:20 · 5167 阅读 · 0 评论 -
Unsupervised Learning：Neighbor Embedding
Unsupervised Learning：Neighbor Embedding（非线性降维）Manifold Learning将高维空间的 Manifold 映射到低维空间“摊平”，这样就可以计算他的直线距离，以便于聚类和监督学习Locally Linear Embedding (LLE)也就是说，我们先在高维空间中通过minimize 找到Xi和Xj的关系Wij...原创 2020-01-27 17:07:43 · 247 阅读 · 0 评论 -
Unsupervised Learning: Word Embedding
Unsupervised Learning: Word EmbeddingWord Embedding 是 Dimension Reduction 的一种应用。要用一个vector来表示一个word，有什么方法呢： 1-of-N Encoding: 每一个词汇对应vector的一维，如：这种方式没法体现出word之间的关系，无法表达出语义 Word Class: ...原创 2020-01-27 10:35:34 · 385 阅读 · 0 评论 -
pytorch 张量的操作
Tensor Operation1. 张量拼接与切分torch.cat()：将张量的维度dim进行拼接，不会扩张张量的维度 如dim=0，则两个向量将在第0维进行拼接：(3,4)concat(3,4)-->(6,4)torch.stack()：在新创建的维度dim上进行拼接 如dim=0，则(3,...原创 2020-01-14 13:53:37 · 785 阅读 · 0 评论 -
pytorch tensor创建
create tensor1. torch.tensor()：从data创建tensordata可以是list,numpy；dtype默认与data一致。2. torch.from_numpy(ndarray)：从numpy创建tensor这里创建的tensor与原ndarray共享内存，一个改变另一个就会改变。3.torch.zeros()：依size创建全0张量...原创 2020-01-13 21:22:01 · 1254 阅读 · 0 评论 -
transfer learning
OverviewTASK 1Model Fine-tuning用source data训练一个模型，然后用target data去微调。需要注意的是target data的过拟合。处理方案：Conservative training：我们希望fine tuning后新的network和旧的network的output是差不多的1. 如果我们的targe...原创 2020-01-13 11:45:03 · 325 阅读 · 0 评论 -
如何在Jupyter Notebook切换conda环境
1. 在你的jupyter notebook环境安装nb_conda_kernelsconda install -n notebook_env nb_conda_kernels2. 如果你用的python，在你要导入的conda环境下安装ipykernelconda install -n python_env ipykernel3. 如果你用的R，则conda inst...原创 2020-01-11 20:20:01 · 1619 阅读 · 0 评论 -
《Feature Engineering for Machine Learning》chapter 2
内容自《Feature Engineering for Machine Learning》Scalars, Vectors, and Spaces2.2 Dealing with Counts2.2.1 二值化（Binarization） In the Million Song Dataset, the raw listen count is not a robu...原创 2019-06-08 19:10:48 · 395 阅读 · 1 评论 -
《ML with python cookbook》: Loading Data
1.Loading a CSV Fileimport pandas as pdpath = 'F:/pycharmFile/input/train_data.csv'dataframe = pd.read_csv(path)dataframe.head(2)notes: 1. see how a dataset is structured beforehand ...原创 2019-05-19 23:06:58 · 193 阅读 · 0 评论 -
Data(image) Augmentation
Data Augmentation 是 Regularization 的一种方法 可以做水平翻转可以抽取不同尺度大小的裁剪图像，在测试时，评估一些固定的裁剪图像可以做色彩抖动：还可以： code :import osimport randomfrom PIL import Imagefrom PIL import ImageEnhance...原创 2019-02-12 17:41:35 · 261 阅读 · 0 评论 -
HOG ( scikit-image )
from skimage import io, colorfrom skimage.feature import hogimport matplotlib.pyplot as pltpath = 'C:/Users/liky/Desktop/Face/westbrook.jpg'image = io.imread(path)image = color.rgb2gray(image)...原创 2019-02-11 23:40:44 · 720 阅读 · 1 评论 -
Training Neural Networks, part II
part II :- Fancier optimization - Regularization - Transfer Learning Optimization Problems with SGD1. 当我们在水平方向变化时，损失函数的变化非常慢而在竖直方向（等高线方向）变化时，损失值变化很快 在这样函数上，SGD： Ve...原创 2019-02-02 11:32:40 · 315 阅读 · 0 评论 -
Gradient Descent (一)
ML三个基础的步骤：find a model goodness of function get the best functionGradient Descent是 step3 常用的方法。它要求loss function是可微分的。怎么做Gradient Descent呢？通常有下面几个步骤：（这里以loss function有一个参数为例）对 L(w):我们的目的...原创 2018-11-09 16:52:36 · 665 阅读 · 0 评论 -
Gradient Descent (二)
我们做Gradient Descent 需要注意什么呢？ Tuning your learning rates η的大小控制不好，会造成很多问题：如果η太小，我们w的移动速度太慢，而且会对数据量有一定要求而如果太大了呢，w会一直在未走到最低点之前震荡，而无法走到最低点甚至是这样：我们可以把参数的update和Loss值做一个曲线：那有什么办法可以...原创 2018-11-10 17:09:58 · 1047 阅读 · 0 评论 -
HW1 PM2.5 代码逐行解析
import csvimport numpy as npfrom numpy.linalg import invimport randomimport mathimport sys#读数据data = []# 每一个维度储存一种污染物的数据for i in range(18): data.append([])n_row = 0text = open('C:/Users...原创 2018-11-15 14:47:50 · 1023 阅读 · 5 评论 -
numpy学习笔记
官方文档内容： numpy.prod numpy.prod（a，axis = None，dtype = None，out = None，keepdims = <no value>，initial = <no value> ）返回给定轴上的数组元素的乘积。 numpy.transposenumpy.transpose（a，axes =...原创 2018-11-28 16:07:42 · 190 阅读 · 0 评论 -
HW2 Logistic Regression 代码解析
import os, sysimport numpy as npfrom random import shuffleimport argparsefrom math import log, floorimport pandas as pddef load_data(train_data_path, train_label_path, test_data_path): X_t...原创 2018-11-28 17:47:28 · 353 阅读 · 0 评论 -
Keras--mnist
1. activation function : sigmoid loss function : mean squared error optimizer : SGDimport numpy as npfrom keras.models import Sequentialfrom keras.layers.core import Dense, Dropout, Ac...原创 2018-12-08 23:37:50 · 197 阅读 · 0 评论 -
HW3 Image Sentiment Classification
【问题尚未完全解决】 首先是I/O模块读取数据并做简单的处理# io_data.pyimport osimport numpy as npimport randomfrom keras.utils.np_utils import to_categoricalimport pandas as pdimport csvbase_dir = os.path.dirnam...原创 2019-01-14 21:17:08 · 650 阅读 · 2 评论 -
cs231n assignment1 KNN
需注意的几点：在无循环计算时：令测试集为P(m×d)，训练集为C(n×d)，m为测试数据数据量，n为训练数据数据量，d是维度。实际上最后距离公式变为如下形式这里实现的依然是广播，所以只要P的形状为 m×1，C的形状为 1×n即可三种循环方式体现的是运算速度的不同，结果是一致的 k = 1时，training data自身的匹自身为100% 直接执行的代码（注释掉测试部...原创 2019-01-18 14:43:40 · 347 阅读 · 0 评论 -
cs231n assignment1 Multiclass SVM
任务：完成一个基于SVM的全向量化损失函数 完成解析梯度的全向量化表示 用数值梯度来验证 使用一个验证集去调优 learning rate 和 regularization 使用SGD方法 可视化最优的WeightSVM的 loss function 为： 首先，加载原始数据并做简单的数据划分import randomimport numpy as npf...原创 2019-01-20 22:06:41 · 583 阅读 · 0 评论 -
Day 1 Preprocessing data
https://github.com/MLEveryday/100-Days-Of-ML-Code/blob/master/Code/Day%201_Data_Preprocessing.mddata set:Country Age Salary Purchased France 44 72000 No Spain 27 48000...原创 2019-01-15 17:39:53 · 260 阅读 · 0 评论 -
cs231n assignment1 Softmax classifier
首先，对softmax loss 有一个简单的理解Softmax loss = 对参数W求导 至于推导过程，李弘毅老师的课程中在讲 logistic regression 的时候大概讲过类似的推导过程： 下面是代码部分：数据加载及预处理import randomimport numpy as npfro...原创 2019-01-22 13:09:40 · 436 阅读 · 0 评论 -
cs231n assignment1 Two-Layer Neural Network
此次的作业的目的：了解NN的结构和搭建过程： 本次实验的两层NN的结构： 相当于使用了 ReLu 最后一层用 softmax 得出 loss 理解 backpropagation: 其目...原创 2019-01-26 21:44:53 · 991 阅读 · 0 评论 -
cs231n assignment1 Image Features
这部分主要是对图像特征（pixel）的描述处理， 旨在了解特征处理对识别正确率的影响，分别用 SVM 和 Two-Layer Neural Network测试并和之前结果对比。部分题目说明：对于每个图像，我们将计算定向直方图渐变（HOG）以及使用HSV中的色调通道的颜色直方图色彩空间。 我们通过连接形成每个图像的最终特征向量HOG和颜色直方图特征向量。粗略地说，HOG应该在忽略颜色信息...原创 2019-01-27 16:21:59 · 632 阅读 · 0 评论 -
cs231n assignment2 FullyConnectedNets
Affine layer: fowardimport timeimport numpy as npimport matplotlib.pyplot as pltfrom cs231n_2.classifiers.fc_net import *from cs231n_2.data_utils import get_CIFAR10_datafrom cs231n_2.gradient_...原创 2019-02-03 23:28:07 · 1482 阅读 · 0 评论 -
Training Neural Networks, part I
Part I :- Activation Functions - Data Preprocessing - Weight Initialization - Batch Normalization - Babysitting the Learning Process - Hyperparameter Optimization Activation Functio...原创 2019-01-29 22:52:37 · 363 阅读 · 0 评论 -
cs231n assignment2 Batch Normalization
Batch normalization 优点：减少坏初始化的影响 加快模型的收敛速度 可以用大些的学习率 能有效地防止过拟合 Batch normalization: forwardimport timeimport numpy as npimport matplotlib.pyplot as pltfrom cs231n_2.classifiers.fc_net im...原创 2019-02-09 21:03:21 · 733 阅读 · 0 评论 -
cs231n assignment2 Dropout
Dropout forward passnp.random.seed(231)x = np.random.randn(500, 500) + 10for p in [0.25, 0.4, 0.7]: out, _ = dropout_forward(x, {'mode': 'train', 'p': p}) out_test, _ = dropout_forward(x, {'...原创 2019-02-10 16:30:31 · 392 阅读 · 0 评论 -
如何使用jupyter notebook
最近学习时用到了jupyter notebook，这里简单说一下jupyter notebook的基础用法。首先打开cmd，安装 jupyterpip install jupyter 下载完成后。键入jupyter notebook执行。 之后他会自动打开一个端口，并打开你的浏览器。界面如下选择index.ipynb，进入引导页面。然后可以如图新建文件...原创 2018-10-23 21:41:59 · 1386 阅读 · 0 评论