- 博客(82)
- 资源 (5)
- 收藏
- 关注
RSS订阅原创 简单的CNN识别数学公式(pytorch)
链接：https://pan.baidu.com/s/18hd373yQYS_QwfKSVpYyxA提取码：3yz4复制这段内容后打开百度网盘手机App，操作更方便哦--来自百度网盘超级会员V1的分享
2021-01-17 15:12:08
776
原创 Pytorch 实现学习率控制(WarmUp)
import torchfrom torch.optim.lr_scheduler import StepLR, ExponentialLRfrom torch.optim.sgd import SGDfrom torch.optim.lr_scheduler import _LRSchedulerfrom torch.optim.lr_scheduler import ReduceLROnPlateauclass GradualWarmupScheduler(_LRScheduler):.
2021-01-02 18:41:54
7149
6
原创 self-attention(pytorch 实现)
来源：MEF-GAN: Multi-Exposure Image Fusion via Generative Adversarial Networksclass Attention(nn.Module): def __init__(self, bn=True): super(Attention, self).__init__() self.conv1 = nn.Conv2d(6, 16, kernel_size=3, stride=2) ..
2020-12-13 17:41:03
6365
5
原创 深度网络与tucker分解结合实现数据分类(pytorch)
importtorchfromtensorly.decompositionimportnon_negative_tuckerimporttensorlyastlfromtensorlyimporttucker_to_tensorfromsklearn.clusterimportk_meansfromtensorly.tucker_tensorimporttucker_to_tensorfromtensorly.randomimportcheck...
2020-12-05 21:15:10
790
原创 python实现简单的图像显著性检测
https://www.cnblogs.com/wmr95/articles/9981605.html引用博文Code:import torch import cv2import numpy as npimport torchvision import torchvision.transforms as transformsfrom PIL import Image import torch.nn as nnimport matplotlib.pyplot as pltimpor.
2020-11-21 16:38:08
2425
3
原创 图像的分拆与合并
我们经常会遇到将图像分成一个个patch，然后输入至模型计算，将结果进行合并的操作。fromPILimportImageimporttorchvision.transformsastransformsimportmatplotlib.pyplotaspltimporttorchdefreadImage(path='13_4.jpg'):#这里可以替换成自己的图片mode=Image.open(path)transform1=tr...
2020-11-03 16:14:05
608
2
原创 MobileNet 实现对CIFAR-10数据集训练(pytorch)
importtorchimporttorchvisionfromtorchvisionimportdatasets,transformsfromtorch.utils.dataimportDataLoaderfromtorchimportnnimporttorch.nn.functionalasFimportnumpyasnpfromtorch.utils.dataimportDataset,DataLoader,TensorData...
2020-08-26 10:15:01
1549
原创 pytorch实现简单的网络全局剪枝
importtorchfromtorchimportnnimporttorch.nn.utils.pruneaspruneimporttorch.nn.functionalasFdevice=torch.device("cuda"iftorch.cuda.is_available()else"cpu")classLeNet(nn.Module):def__init__(self):super(LeNet,s...
2020-08-15 11:17:51
1026
5
原创 只需动动手指就可以将黑白照片变成彩色照片
importrequestsimportosimporturllib.requestr=requests.post("https://api.deepai.org/api/colorizer",files={'image':open(r'C:\Users\xiaoran\Desktop\CVPR_E\11.jpg','rb'),},headers={'api-key':'quickstart-QUdJIGl...
2020-08-11 11:22:20
972
原创 在MNIST数据集上实现特征可视化技术(CAM&pytorch)
importtorchimporttorch.nnasnnimporttorch.nn.functionalasFimporttorch.optimasoptimimporttorch.utils.dataasDatafromtorchvisionimportdatasets,transformsfromtorch.autogradimportVariableBATCH_SIZE=64train_dataset=...
2020-08-05 16:04:57
798
原创 GAN网络生成鸢尾花样本(pytorch)
importtorchimporttorch.nnasnnimporttorch.optimasoptimfromsklearnimportdatasets#潜在的空间其实GAN训练出来的判别器对对抗样例的防御是有意义的。但是#为了防御对抗样例而训练代价太大了。#z潜在mapnz=10#生成器mapngf=20#判别器mapndf=20lr=0.001#X=to...
2020-08-04 12:31:57
1582
3
原创 Numpy利用随机梯度下降与梯度投影法解决超越方程
importnumpyasnpx=np.array([2])#求f=x-cosx当x=？,f=0---->求min0.5*(f)^{2}#SGDforiinrange(10000):x=x-(x-np.cos(x))*(1+np.sin(x))*0.01print(x-np.cos(x))print(x)#梯度投影法A=np.array([...
2020-08-02 20:43:50
375
原创 JPG压缩防御对抗样例攻击在MNIST数据集上(pytorch)
importtorchimporttorchvisionfromtorch.autogradimportVariablefromtorchvisionimportdatasets,transformsfromtorch.utils.dataimportDataLoaderfromtorchimportnnfromnumpyimport*importtorch.nn.functionalasFimportadvertorch.defe...
2020-08-02 11:00:23
1021
原创 python实现舆情数据聚类
https://github.com/ranran4082391/restaurant-comments 数据集地址importpandasaspdfromdateutilimportparserfromsnownlpimportSnowNLPimportmatplotlib.pyplotaspltimportnumpyasnpdf=pd.read_excel('restaurant-comments.xlsx')#df[...
2020-08-01 20:35:29
730
原创 numpy简单实现梯度投影法
importnumpyasnp#约束投影算法意思就是#1.我们的问题是求最小值(可能是局部最小)#2.求最值我们都会想到用梯度下降算法，但是下降的方向是否应该也有一个约束比较好？#3.如果我们的约束很带劲，我们将梯度投影在约束函数的方向向量上可能能更快的收敛。#f(x)=x^2+y^2s.t.x+y>=1x_0=np.array([[3,-2]])B=np.array([[1,1]])...
2020-07-27 17:02:53
1974
原创 利用鸢尾花数据集直观感受神经网络表征能力(pytorch)
importtorchimporttorchimporttorchvisionfromtorch.autogradimportVariablefromtorchvisionimportdatasets,transformsfromtorch.utils.dataimportDataLoaderimportcv2fromtorchimportnnfromnumpyimport*importtorch.nn.functional...
2020-07-25 17:41:35
615
原创 numpy实现简单的神经网络
importnumpyasnp#Nisbatchsize;D_inisinputdimension;#Hishiddendimension;D_outisoutputdimension.N,D_in,H,D_out=64,1000,100,10#Createrandominputandoutputdatax=np.random.randn(N,D_in)y=np.random.randn(N,D...
2020-07-21 21:56:28
275
原创 利用高斯核卷积对MINIST数据集进行去噪
importtorchimporttorchvisionfromtorch.autogradimportVariablefromtorchvisionimportdatasets,transformsfromtorch.utils.dataimportDataLoaderimportcv2fromtorchimportnnimportnumpyasnpimporttorch.nn.functionalasFimportadve...
2020-07-18 16:24:30
1138
原创 特征矩阵稀疏化(pytorch)
importtorcha=torch.tensor([[1,1,1,1.0],[2,2,2,2],[1,1,1,1],[1,1,1,1]])b,indices=torch.nn.MaxPool2d(2,2,return_indices=True)(a.unsqueeze(0).unsqueeze(0))print(b...
2020-07-13 21:25:22
1467
原创 python+pytorch实现双线性模型对鸢尾花数据集训练
importtorch.nnasnnimporttorchfromsklearn.datasetsimportload_irisdata=load_iris()X1=torch.tensor(data.data).float()X2=0.01*torch.rand(150,2).float()y=torch.tensor(data.target).long()W=torch.randn(3,X1.shape[1],...
2020-07-08 10:01:16
869
1
原创 整数拆分(python)
#我们都知道有一门数学领域叫组合数学，其中整数的拆分问题是非常有名的，#例如我们有1g、2g、3g、4g、5g的砝码各一个，问能称出多少的重量，各有多少称法#这里我们利用欧拉提出的母函数的概念(当然拉马努金的公式也可以，拉马努金是我非常喜欢的数学家)，直接带入求解，(1+x)(1+x^2)(1+x^3)(1+x^4)(1+x^5)defadd_poly(L1,L2):#多项式加法，同次项系数相加R=[]iflen(L1)>len(...
2020-06-23 19:03:04
3362
原创 简易版蒙特卡洛采样计算二项式分布的参数
importnumpyasnpimportmatplotlib.pyplotaspltX=np.array([1,1,1,1,1,0,0,1,1,0])#q=np.array([0.1,0.2,0.3,0.4,0.5,0.6,0.7,0.8,0.9,1.0])print(np.random.normal(loc=0.001,scale=0.0,size=None))p=[]sum=1...
2020-06-21 13:54:55
550
原创 针对神经网络的快速符号攻击
'''但是，设计和训练模型的一个经常被忽略的方面是安全性和鲁棒性，尤其是在面对想要欺骗模型的对手的情况下这篇文章的思路就是给图像加噪音，但是大家会发现一件事，加噪音我们希望给神经网络认为重要的像素点给予更多的攻击，作者的思路是认为，根据梯度来反馈的到大小来反推像素点的重要性，一般来说能使神经网络获得很大梯度的像素点肯定是重要的。'''importtorchimporttorch.nnasnnim...
2020-06-19 21:49:54
616
1
原创 利用自编码器对线性模型参数加密
fromsklearn.datasetsimportload_bostondataset=load_boston()x_data=dataset.datay_data=dataset.targetfromsklearnimportlinear_modelmodel=linear_model.LinearRegression()model.fit(x_data,y_data)args=model.coef_im...
2020-06-18 09:24:08
380
原创 积分度量学习
#积分度量当我们计算两个簇之间的距离的时候常常用的欧氏距离，但是用积分来度量两个簇之间占据空间的大小也是一种很有趣的思路importnumpyasnpa1=np.array([1,1])b1=np.array([1,2])c1=np.array([1,3])a2=np.array([2,3])b2=np.array([2,5])c2=np.array([2,7])#我们可以看成两个空间中两类簇...
2020-06-12 10:08:39
639
原创 压缩度量(矩阵映射)
#压缩度量是一个数学概念，例如我们采用欧氏距离作为度量方法，对于任意的||xi-xj||>||f(xi)-f(xj)||(xi和xj为样本空间中的样本)#场景如果我们的样本点之间距离很大，数据很稀疏的情况下，这种距离很大的计算是非常消耗资源的。我们不妨将空间的样本映射的更加紧凑点，这样计算资源的消耗也比较少。importnumpyasnpa=np.array([1,1])b=np.array([1,6])#我们需要用一个矩阵...
2020-06-12 09:42:59
468
原创 谱聚类及其创新思考(python)
#谱聚类'''对样本求相似性矩阵， 其实就是把每个sample当作一个node，构建一个图关系。1 求向量之间的关系有很多方法 比如 F1范数， F2范数， 无穷范数，余弦 f(x1, x2)---> scalar如果大家想改进的话这里我建议可以用度量学习的技巧去替换求向量之间关系的方法'''import numpy as npdef distance(x1, x2): ...
2020-03-18 15:04:26
365
原创 神经网络的线性单元不能拟合指数表达
'''目前神经网络一直都是采用relu（非线性单元）作为激活函数，目的是产生类似异或表达，比如线性函数的可加性就被很好的破坏掉了f（ax+by）=af(x)+bf(y) 在加入relu之后不成立了。但是对于e^x 这种轨迹,relu还能有很好的拟合能力吗？我们做个实验看看吧。'''import torchfrom torch import nnimport torch.optim...
2020-03-17 15:45:16
278
原创 牛顿迭代法的简单实现（python）
'''牛顿法很多人写了一大通感觉非常的高大上，其实想法很简单，我们目标就是找函数的零点比如你选了一个起始点x = a , y = f(a) 这个点相比于零点假如说是有距离的。那么你会发现在这个x = a 点处求一个切线方程，这个切线方程的截距距离零点更近。ok， 于是l(x) = f(a) + f'(a)(x - a) ---> x = a - f(a) / f'(a) 目的是求...
2020-03-17 10:34:18
2487
原创 对数换底公式的意义(线性理解)
import numpy as npb = [1.1, 2, 3, 4, 5, 6, 7, 8, 9, 10]y1 = [np.log2(i) for i in b] #log2函数y2 = [np.log10(i) for i in b]print(y1)print(y2)# 我们从高中学的 对数函数的换底公式 其实有一个很重要的意义 任意两个对数函数 存在...
2020-03-16 11:55:19
987
原创 度量学习(NCA)
frommetric_learnimportNCAfromsklearn.datasetsimportmake_classificationfromsklearn.neighborsimportKNeighborsClassifiernca=NCA()X,y=make_classification()nca.fit(X,y)print(nca....
2020-02-22 11:36:25
910
原创 python求解函数的积分微分
#求x^2在（1，2）上的积分值sum=0j=0epoch=10000foriinrange(epoch):sum+=(1/epoch)*(1+j)**2j+=(1/epoch)print(sum)#求x^2在（1）上的微分值delt=0.00001x=1f=...
2020-02-19 10:24:50
758
原创 行为匹配（采用变分自编码器对数据降维）
importnumpyasnpimporttorchimporttorch.nnasnnimporttorch.nn.functionalasF#Cosinesimilaritydefcos_sim(a,b):numerator=np.multiply(a,b).sum()denomitor=np.lina...
2020-02-15 10:14:55
1120
原创 采用微软的AutoML框架对鸢尾花进行特征筛选
from sklearn import datasetsfrom sklearn.model_selection import train_test_splitfrom nni.feature_engineering.gbdt_selector import GBDTSelectorimport torchiris = datasets.load_iris()x = iris.data...
2020-01-05 15:03:10
319
原创 借助于pytorch的GNN网络解决鸢尾花分类问题
from sklearn.datasets import load_irisimport torchfrom torch_geometric.data import Dataimport networkx as nximport torch.nn.functional as Ffrom torch_geometric.nn import GCNConvdata = load_iris...
2020-01-03 15:36:43
1743
2
原创 图像模糊聚类
1. 用池化操作对图像降维打击2. 利用混合高斯模型分块降维import torchvisionfrom PIL import Imageimport torch.nn.functional as Floader = torchvision.transforms.Compose( [torchvision.transforms.Resize(128), ...
2019-12-30 14:52:03
491
原创 多输出深度森林(gcForest)
from sklearn.datasets import make_classificationfrom GCForest import *from sklearn.utils import shuffleimport numpy as npX, y1 = make_classification(n_samples=10, n_features=100, n_informative=30...
2019-12-25 17:09:19
317
Matrix.pdf
2020-07-27
拓扑与微分计算.pdf
2020-07-10
topology.pdf
2020-06-20
Graph_卓然.pdf
2020-04-04
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人