
深度学习
文章平均质量分 73
深度学习、机器学习基础算法和实验
zhongzhehua
这个作者很懒,什么都没留下…
展开
-
torch.optim.Adam
Adam原创 2022-08-18 16:13:55 · 833 阅读 · 0 评论 -
pytorch常用易混函数
detach()返回一个与当前图形分离的新张量。返回的张量与原始张量共享相同的存储空间。对其中任何一个进行修改,可能会在正确性检查中触发错误。重要提示:之前,对返回的张量进行更改,也会更新原始张量。现在,这些更改将不再更新原始张量,而是会触发一个错误。detach_()将一个张量从创建它的图中分离,并把它设置成叶结点。clone()Tensor.clone(*, memory_format=torch.preserve_format) → Tensor返回与原张量有相同大小和数据类型的张原创 2022-05-10 14:06:29 · 481 阅读 · 0 评论 -
凸优化算法总结
问题描述minimizef(x)\operatorname{minimize} f(x)minimizef(x)s.t. x∈X⊂Rn\text {s.t. } x \in X \subset \mathbb{R}^{n}s.t. x∈X⊂Rn问题说明:在XXX域内最小化函数f(x)f(x)f(x)次梯度法xk+1=xk−tkf′(xk)x_{k+1}= x^{k}-t_{k} f^{\原创 2022-05-09 14:16:08 · 974 阅读 · 0 评论 -
GLUE 数据集
GLUE,通用语言理解评估基准(https://gluebenchmark.com/)是一个用于训练、评估和分析自然语言理解系统的资源集合。支持的任务和排行榜GLUE基准的排行榜可以在这个地址找到。它包括以下任务:原创 2021-12-21 12:08:31 · 2055 阅读 · 0 评论 -
梯度下降优化算法综述
摘要梯度下降优化算法虽然越来越受欢迎,但经常被用作黑盒优化器,因为很难获得对其优缺点的实际解释。本文旨在为读者提供有关不同算法的行为的直观信息,从而能够使用这些算法。在本概述的过程中,我们将查看梯度下降的不同变体,总结挑战,介绍最常见的优化算法,回顾并行和分布式环境中的体系结构,并研究优化梯度下降的其他策略。1 引言梯度下降法是最流行的优化算法之一,也是迄今为止最常用的优化神经网络的方法。同时,每个最先进的深度学习库包含各种算法的实现,以优化梯度下降(例如lasagne、caffe、keras的文档)翻译 2021-09-18 16:33:14 · 710 阅读 · 0 评论 -
对抗性训练(Adversarial training)
对抗性训练最大最小化公式:minθE(x,y)∼D[maxΔx∈ΩL(x+Δx,y;θ)]\min_{\theta}\mathbb{E}_{(x,y)\sim\mathcal{D}}\left[\max_{\Delta x\in\Omega}L(x+\Delta x, y;\theta)\right]θminE(x,y)∼D[Δx∈ΩmaxL(x+Δx,y;θ)]D\mathcal{D}D表示训练数据,xxx表示输入,yyy表示标签,θ\thetaθ表示模型参数,L(⋅)L(·)L(⋅)表原创 2021-09-03 18:49:22 · 4537 阅读 · 0 评论 -
基于CNN的FashionMNIST分类
基于卷积神经网络的FashionMNIST分类1卷积神经网络算法简介1.1卷积层1.2池化层1.3全连接层2实验设置及结果分析2.1环境配置2.2数据集2.3模型搭建2.4模型训练及测试2.5精度曲线和损失曲线2.6精确率和召回率2.7混淆矩阵3总结与展望1卷积神经网络算法简介卷积神经网络是一种多层神经网络,擅长处理图像特别是大图像的相关机器学习问题。卷积网络通过一系列方法,成功将数据量庞大的图像识别问题不断降维,最终使其能够被训练。CNN最早由Yann LeCun提出并应用在手写字体识别上(MIN原创 2021-05-24 13:36:03 · 2309 阅读 · 1 评论 -
Numpy实现逻辑回归
实验环境系统:WindowsCPU:i7-6820HK 超频至3.8GPython:3.8.6Numpy:1.19.2引入所需的库import numpy as np # 用于矩阵运算from sklearn.metrics import f1_score, accuracy_score # 用于模型评估from time import time # 用于计算程序用时导入训练数据和测试数据"""设置文件路径"""Train_Path = "train_data.txt" #原创 2021-05-08 23:45:56 · 1265 阅读 · 0 评论 -
基于KNN的MNIST图像分类
KNN基于KNN的MNIST图像分类1 核心思想2 实验环境3 实现代码3.1 数据预处理3.2 KNN实现4 测试分析4.1 混淆矩阵4.2 K取值的影响(1)K对正确率的影响(2)K对运行时间的影响基于KNN的MNIST图像分类1 核心思想KNN算法的核心思想是,如果一个样本在特征空间中的K个最相邻的样本中的大多数属于某一个类别,则该样本也属于这个类别,并具有这个类别上样本的特性。2 实验环境Windows 10 20H2Python 3.8.6Numpy 1.19.53 实现代码im原创 2021-03-30 19:59:06 · 930 阅读 · 0 评论