zjh12312311的博客

最近在做分类模型，记录一下调参技巧：1. 学习率，一般0.0001，但如果用了pre-trained模型，设置为0.000012. batch_size，机器允许情况下越大越好，但根据训练数据大小，这个值也不能特别大，一般小数据集推荐128，像ImageNet这种256，512。如果你的batch_size是64，不妨设大一点，会有惊喜。3. 如果是卷积神经网络，中间卷积的通道数channels很重要，有次把64通道改为128，准确率涨了10%左右。4. 训练集是否打乱，即pytorch中t

方法一：from itertools import chainoptim.Adam(params=chain(backbone_net.parameters(), linear_rot_net.parameters(), linear_classify_net.parameters()),作者：Sail链

模型压缩，因为巨大的模型能够学习到某个函数，但是用的参数量远远大于了任务所需要的参数量。所以可以降低模型的规模。如采用dropout，模型蒸馏。

样条插值的思想做回归一、生成数据多项式y=0.2x3+0.5x2−0.8x+3y = 0.2x^3+0.5x^2-0.8x+3y=0.2x3+0.5x2−0.8x+3再加上服从正态分布的噪声 ξ\xiξimport numpyimport matplotlib.pyplot as pltnumpy.random.seed(1)def cal_poly(x): return 0.2 * x ** 3 + 0.5 * x**2 - 0.8 * x + 3#生成100个数据x_da

用10阶多项式拟合10000个点import matplotlib.pyplot as pltimport random一、数据生成#首先保证这10000个点x各不相同，从0-20000内随机生成不同的数,除以100，将x值变为0-200num = random.sample(range(1,20000),10000)num_x = []for i in range(10000): num_x.append(num[i] / 100) #y也一样,y的生成不需要不一样nu

NPL（一）电影评论情感分析电影评论数据集预处理import sysf = open('reviews.txt')raw_reviews = f.readlines()f.close()f = open('labels.txt')raw_labels = f.readlines()f.close()tokens = list(map(lambda x:set(x.split(" ")), raw_reviews)) #map对右边的参数做左边参数操作vocab = set()fo

LENET卷积神经网络import torchimport torch.nn as nnimport torch.utils.data as Datafrom torchvision import datasets,transformsimport torchvisionfrom torch.autograd import Variableimport numpy# 加载数据和数据处理transform = transforms.Compose([transforms.ToTensor(

import torchimport torch.utils.data as Dataimport torch.nn as nnfrom torchvision import datasets,transformsimport torchvisionfrom torch.autograd import Variableimport numpy as npimport matplotlib.pyplot as plt1.加载数据transform=transforms.Compose([t

import torchimport torch.utils.data as Datafrom torchvision import datasets,transformsimport torchvisionfrom torch.autograd import Variableimport numpy as npimport matplotlib.pyplot as plttorchvision的包的主要功能是实现数据的处理，导入和预览呢，所以如果需要对计算机视觉的相关问题 进行处理，就可

import torchimport torch.utils.data as Dataimport torch.nn as nnimport torch.optim as optimimport numpy as np'''nn是neural networks，定义了大量神经网络的层。核心数据结构是Module'''#整一个线性模型：y = w1*x1 + w2*x2 + b#1. 生成数据集num_inputs = 2 #输入参数的数量num_examples = 1000 #要.

1.好像不支持python3.8。直接从setting里面安装时不行的，按其它教程（https://blog.youkuaiyun.com/lyz21/article/details/104295042）从官网https://pytorch.org/get-started/locally/，拷贝链接用pip下载，一直报找不到版本。后来发现，python3.8的原因，改成python3.7可以了，但会一直连接超时。2.发现要下载的其实是这两个文件：点开下面的两个链接，用下载软件下载了，我下到了e盘，直接pip

bp的算法的推导：神经网络代码如下：import numpy as npfrom sklearn import datasetsfrom sklearn.model_selection import train_test_splitiris = datasets.load_iris()train_data, test_data, train_label, test_label = train_test_split(iris.data, iris.target, test_

Iris数据集使用方法：https://blog.youkuaiyun.com/qq_17336559/article/details/81480629Sklearn神经网络使用方法以及参数说明：https://www.jianshu.com/p/71fde5d90136import numpy as npfrom sklearn import datasetsfrom sklearn.neural_network import MLPClassifierfrom sklearn.model_s

最近的学习中，发现可以把轴看成是维度，特地分享给大家，方便理解numpy的数组运算。一、一个一维的array，它只有一个维度即维度02.一个二维的array，定义shape时会用（2，n），2表示行，n表示列。如a = np.arange(8).reshape(2,4)[[0 1 2 3][4 5 6 7]]此时轴0对应（2，4）中的2，轴1对应（2，4）中的4。用一个numpy中的函数来检验这个想法：numpy.swapaxes 函数用于交换数组的两个轴a = np..

最近做的机器学习脑图，分享给大家