Champagne Jin

伯禹公益AI《动手学深度学习PyTorch版》Task 10 学习笔记Task 10：图像分类案例2；GAN；DCGAN微信昵称：WarmIce图像分类案例2就那样吧。GAN我觉得这人讲得也就那样。不如这篇帖子讲得细致和美妙：Pytorch: detach 和 retain_graphDCGAN所谓DCGAN就是Deep Convolutional Generative Ad...

伯禹公益AI《动手学深度学习PyTorch版》Task 09 学习笔记Task 09：目标检测基础；图像风格迁移；图像分类案例1微信昵称：WarmIce目标检测基础无言以对，哪个臭Sb写的文档，来，你给我念一遍：假设输入图像高为 hhh，宽为www。我们分别以图像的每个像素为中心生成不同形状的锚框。设大小为s∈(0,1]s\in (0,1]s∈(0,1]且宽高比为r>0r &g...

伯禹公益AI《动手学深度学习PyTorch版》Task 08 学习笔记Task 08：文本分类；数据增强；模型微调微信昵称：WarmIce文本分类前面一堆数据处理和对双向循环神经网络的讲解可以忽略了，之前都讲过，咱也都详细聊过。这里主要说一下情感分类在使用双向循环神经网络时的一个细节。我们可以根据双向循环网络得到t个时刻的双向的经过concat的隐藏状态，那么如何利用这t个信息进行二分...

伯禹公益AI《动手学深度学习PyTorch版》Task 07 学习笔记Task 07：优化算法进阶；word2vec；词嵌入进阶微信昵称：WarmIce优化算法进阶emmmm，讲实话，关于所谓的病态问题是什么，条件数在复杂优化目标函数下的计算，讲者也没说，咱也没法问，只知道要计算一个Hessian矩阵，然后计算得到特征值，但是具体怎么操作实属未知，还得去参看别的材料。总而言之，很多机器学...

伯禹公益AI《动手学深度学习PyTorch版》Task 06 学习笔记Task 06：批量归一化和残差网络；凸优化；梯度下降微信昵称：WarmIce批量归一化和残差网络BN和ResNet都没什么特别好说的。DenseNet久闻其名，但是一直没有细节了解过其实现。这一次大开眼界，原来文章里面那么密集的连线是由于concat导致的啊。可以想象一下作者当初提出这个网络的时候是什么想的。第一...

伯禹公益AI《动手学深度学习PyTorch版》Task 05 学习笔记Task 05：卷积神经网络基础；LeNet；卷积神经网络进阶微信昵称：WarmIce昨天打了一天的《大革命》，真挺好玩的。不过讲道理，里面有的剧情有点为了“动作”而“动作”，颇没意思。但是Ubi的故事还是讲得一如既往得好。言归正传，这3节课，前两节没什么意思，充其量复习了计算卷积层输出的特征图大小的公式：$ \ma...

伯禹公益AI《动手学深度学习PyTorch版》Task 04 学习笔记Task 04：机器翻译及相关技术；注意力机制与Seq2seq模型；Transformer微信昵称：WarmIcePS: 所有使用的图片均来自《动手学深度学习PyTorch版》项目。机器翻译及相关技术机器翻译不能用普通的循环神经网络来实现。想想咱们之前的循环神经网络，在机器翻译中，有个最直观的问题，就是输入序列和输出...

伯禹公益AI《动手学深度学习PyTorch版》Task 03 学习笔记Task 03：过拟合、欠拟合及其解决方案；梯度消失、梯度爆炸；循环神经网络进阶微信昵称：WarmIce过拟合、欠拟合及其解决方案这一节首先介绍了过拟合、欠拟合的概念，说明了网络的复杂度设置与网络训练样本数量都很重要，在训练的时候需要进行合理的权衡。有的时候任务简单或者样本数量稀少，使用过于复杂的网络可能造成过拟合；而...

伯禹公益AI《动手学深度学习PyTorch版》Task 02 学习笔记Task 02：文本预处理；语言模型；循环神经网络基础讲实话，这3节课的确硬核。（触碰到了我的知识盲区了）组里的师兄之前还做人脸识别，做着做着就去搞NLP去了，这东西，听着就很高大上有木有（其实也很成熟了有木有）。我是抱着一个问题来看这三个视频的，就是，这玩意儿究竟该怎么实现？如何输进去一个句子再输出一个句子，我以前也...

伯禹公益AI《动手学深度学习PyTorch版》Task 01 学习笔记Task 01：线性回归；softmax与分类模型；多层感知机疫情期间，宅在家里，天天坐着，于是乎，菊部有恙。现在只好站着写学习笔记了，人生啊，真的是太难了。好友劝说多吃汤食，多吃番茄，可是做饭也不是我管，番茄在现今的环境下也不是想买就能买到。实在难受。不过有收获就是相当美好的一件事情，国难当头，痘痘当头，只有学到点有用...

PRML_Exercises有些地方我也没弄明白，就先鸽了，鸽了的题目会标注在题号右侧，想通了就更新。欢迎讨论题目（我把自己做的过程贴出来也是为了更方便讨论），禁止一切乱七八糟形式的转载。关于排版，实话说我也想把公式排得舒服好看一些，奈何着实费力，这着实不太讨喜，见谅。Chapter 11.1能够使得式(1.2)给出的误差函数最小的参数w={wi}\mathbf{w}=\{w_i\}w=...

1.2 练习第一部分我们先从一个感知器入手，设一个感知器具有nnn个输入xix_ixi​，每个输入的权重分别为wiw_iwi​，偏置为bbb，由此可以得到的计算结果为∑i=1nxiwi+b\sum_{i=1}^{n} x_iw_i + b∑i=1n​xi​wi​+b，而在输出层所要做的是将该结果与0进行大小比较，若∑i=1nxiwi+b⩾0\sum_{i=1}^{n} x_iw_i + b...