程永强

PyTorch torch.cat

PyTorch torch.unsqueeze

PyTorch torch.topk

PyTorch torchvision - EfficientNet

安装 Conda - PyTorch 1.1.0 - CUDA 9.0

torch.nn.Sequential() and torch.nn.ModuleList()

Learn the Basics: Build the Neural Network

PyTorch torch.arange

Install PyTorch (安装 PyTorch)

PyTorch torchtune.modules.peft.lora

torchvision - ImportError: No module named torchvision

PyTorch torchvision - MobileNet V3

PyTorch torch.Tensor.masked_fill_

PyTorch torch.zeros

PyTorch Linear

PyTorch torch.cuda.is_available()

PyTorch torch.manual_seed, torch.cuda.manual_seed and torch.cuda.manual_seed_all

PyTorch 切片运算 (Slice Operator)

PyTorch torch.sin - torch.cos

安装 torchvision 时避免更新 PyTorch 到最新版本

PyTorch torch and torchvision 中文文档

PyTorch MNIST Dataset

Python 布尔索引筛选数据

PyTorch torch.triu

PyTorch torch.squeeze

2018 广东工业智造大数据创新大赛 - 智能算法赛数据引领 飞粤云端2018 年广东省人民政府联合阿里巴巴集团共同启动“广东工业制造大数据创新大赛”，旨在通过数据开放召集全球众智，将重点围绕工业制造大数据展开，以应用为导向，聚集全球顶级人才，发掘全球先进的智能制造应用成果，为政府下一步产业引进和招商引资提供辅助决策，促进广东智能制造产业发展。 大赛分智能算法赛和应用创新赛 2 大赛...

天池大数据众智平台 - 数据科学家社区https://tianchi.aliyun.com/

2018 广东工业智造大数据创新大赛 - 智能算法赛 - 铝型材表面瑕疵识别数据引领 飞粤云端介绍铝型材是佛山南海的支柱性产业。在铝型材的实际生产过程中，由于各方面因素的影响，铝型材表面会产生裂纹、起皮、划伤等瑕疵，这些瑕疵会严重影响铝型材的质量。为保证产品质量，需要人工进行肉眼目测。然而，铝型材的表面自身会含有纹路，与瑕疵的区分度不高。传统人工肉眼检查十分费力，不能及时准确的...

DC 竞赛-大数据竞赛平台DataCastle (DC) 专业的数据科学学习社区http://www.pkbigdata.com/旨在为用户提供优质的学习资源和技术交流圈子，帮助全球的数据爱好者、从业者成为顶尖的数据科...

NCHW - NHWC - CHWN 数据排列In deep learning, in order to improve data transmission bandwidth and computing performance, NCHW and NHWC data formats are often used, which represent logical data formats such as image or feature map (which can be simply understoo

Neural Networks and Deep Learning - 神经网络与深度学习Neural Networks and Deep Learninghttp://neuralnetworksanddeeplearning.com/神经网络与深度学习https://hit-scir.gitbooks.io/neural-networks-and-deep-learning-zh_cn/content/https://www.gitbook.com/book/hit-scir/neural-n

Netscope - Caffe’s prototxt 可视化工具http://ethereon.github.io/netscope/quickstart.htmlA web-based tool for visualizing neural network architectures (or technically, any directed acyclic graph). It currently supports Caffe's prototxt format.1. Gist Support

训练多层感知器 - 前向阶段 & 反向阶段 训练多层感知器的一个流行方法是反向传播算法，这包含 LMS 算法作为一个特例。训练分为如下的两个阶段： 1. 前向阶段，网络的突触权值是固定的，输人信号在网络中一层一层传播，直到到达输出端。在这一阶段，输人信号的影响限制在网络中激活隐藏神经元和输出神经元上。 2. 反向阶段，通过比较网络的愉出和期...

多层感知器的基本特征 Rosenblatt 感知器本质上是一个单层神经网络，这一网络局限于线性可分模式的分类问题。自适应滤波采用了 Widrow 和 Hoff 的 LMS 算法。这一算法也是基于权值可调的单个线性神经元，这也限制了这一算法的计算能力。为了克服感知器和 LMS 算法的实际局限，我们考虑所熟知的多层感知器这一神经网络结构。 下面的三点揭示了多层感知器的基本特征：1. 网络中每个神经元模型包含一个可微的非线性激活函数。2. 网络中包括一个或多个隐藏在输人和输出神...

batch normalization - layer normalization - instance normalization - group normalizationfeature normalization (batch normalization - layer normalization - instance normalization - group normalization)1. 4D tensor (N×C×H×WN \times C \times H \times WN×C×H

Occam’s razor - 奥卡姆剃刀Occam’s razor (Ockham’s razor or Ocham’s razor: Latin: novacula Occami; or law of parsimony: Latin: lex parsimoniae) is the problem-solving principle that states “Entities should not be multiplied without necessity.” The idea is attri

epoch - iteration - batch1. darknethttps://github.com/AlexeyAB/darknetmAP will be calculated for each 4 Epochs using valid=valid.txt file that is specified in obj.data file.1 Epoch = images_in_train_txt / batch iterations# Trainingbatch=64epoch [ˈi

动手学深度学习 - 9.3. 目标检测和边界框动手学深度学习 - Dive into Deep LearningAston Zhang, Zachary C. Lipton, Mu Li, and Alexander J. Smolahttps://zh.d2l.ai/9.3. 目标检测和边界框在图像分类任务里，我们假设图像里只有一个主体目标，并关注如何识别该目标的类别。然而，很多时候图像里有多个我们感兴趣的目标，我们不仅想知道它们的类别，还想得到它们在图像中的具体位置。在计算机视觉里，我们将这类

神经网络 - 泛化 (generalization)泛化 (generalization) 是指神经网络对未在训练 (学习) 过程中遇到的数据可以得到合理的输出。References(加) Simon Haykin (海金) 著, 申富饶, 徐烨, 郑俊, 晁静 译. 神经网络与机器学习[M]. 北京:机械工业出版社, 2011. 1-572...

TensorFlow 正则化 (regularization) 与过拟合1. L1L1L1 L2L2L2 正则化与过拟合在使用梯度下降优化神经网络时，被优化的函数就是神经网络的损失函数。这个损失函数刻画了在训练数据集上预测结果和真实结果之间的差距。然而在真实的应用中，我们想要的并不是让模型尽量模拟训练数据的行为，而是希望通过训练出来的模型对未知的数据给出判断。模型在训练数据上的表现并不一定代表了它在未知数据上的表现。过拟合问题就是可以导致这个差距的一个很重要因素。过拟合指的是当一个模型过为复杂之后，它