人工智能好文汇总

一文搞懂熵(Entropy),交叉熵(Cross-Entropy) - 知乎本文整理/翻译自Medium的系列文章Demystifying Entropy, Demystifying Cross-Entropy, Demystifying KL Divergence，整理过程中加入了一些自己的观点,欢迎讨论/指正/点赞!#***文章大纲***# 1. 熵(Entropy) 1.1 混…https://zhuanlan.zhihu.com/p/149186719

熵与交叉熵_大鸡腿123的博客-优快云博客_熵和交叉熵目录信息熵：联合熵：条件熵：相对熵：（KL散度）信息熵：信源所含有的信息量称为信息熵，定义为信源发出的所有可能消息的平均不确定性，为自信息的统计平均。（自信息：某个消息X出现的不确定性的大小）含义：①信源的平均不确定性的大小②信源输出消息平均所含的信息量联合熵：二维随机变量XY的联合熵定义为联合自信息的数学期望，表征XY的不确定性条件熵：条件熵定义为给定条件下Y的条件概率分布的熵对X的数学期望其中，联合熵=信息熵+条件熵。熵是服从某一特https://blog.youkuaiyun.com/yiersan__/article/details/122547934

通俗理解GAN（一）：把GAN给你讲得明明白白 - 知乎0 引子GAN的风暴席卷了整个深度学习圈子，任何任务似乎套上GAN的壳子，立马就变得高大上了起来。那么，GAN究竟是什么呢？ GAN的主要应用目标：生成式任务（生成、重建、超分辨率、风格迁移、补全、上采样等） GAN…https://zhuanlan.zhihu.com/p/266677860

十分钟搞定最大似然估计_哔哩哔哩_bilibili两件事第一个：考研er们，想报我考研课程的同学直接加我微信咨询。微信号：xiaocuishuoshu第二个：我的所有视频都已分类好，放到了我的公众号“小崔说数”里。大家可以关注一下https://www.bilibili.com/video/BV1Hb4y1m7rE?spm_id_from=333.337.search-card.all.click

先验分布、后验分布、似然估计这几个概念是什么意思，它们之间的关系是什么？ - 知乎能举例说明最好https://www.zhihu.com/question/24261751

花式解释AutoEncoder与VAE - 知乎https://zhuanlan.zhihu.com/p/27549418 GAN 和 VAE 的本质区别是什么？为什么两者总是同时被提起？ - 知乎在一个帖子的回复里回复了一下，这里简单总结下我认为的一个本质区别就是loss的区别VAE是pointwise loss…https://www.zhihu.com/question/317623081

为什么香农要将信息熵公式要定义成 -Σp·log₂(p) 或 -∫p·log₂(p)dp？ - 知乎我从一个非常直观的角度来解释一下熵的定义为什么如题主所示。第一，假设存在一个随机变量，可以问一下自…https://www.zhihu.com/question/30828247/answer/64816509

超平面、Wx=b或Wx+b=0的几何意义_Zelf0914的博客-优快云博客超平面、Wx=b或Wx+b=0的几何意义超平面的理解Wx=b或Wx+b=0的几何意义超平面的理解二维空间中，满足 ax + by + c = 0 的所有点 (x, y) 在几何上是一条直线（类似于 y = k1x + k2）。三维空间中，满足 ax + by + cz = d 的所有点 (x, y, z) 在几何上是空间的一张平面。n维空间中, 满足n元一次方程 a1x1 + a2x2 +...https://blog.youkuaiyun.com/Zelf0914/article/details/95811715

《Python机器学习基础教程》构建管道(make_pipeline)_elma_tww的博客-优快云博客_pipeline《Python机器学习基础教程》笔记 大多数机器学习应用不仅需要应用单个算法，而且还需要将许多不同的处理步骤和机器学习模型链接在一起，例如对数据进行缩放，然后手动合并特征，再利用无监督学习来学习特征。为了简化构建变换和模型链的过程，Scikit-Learn提供了pipeline类，可以将多个处理步骤合并为单个Scikit-Learn估计器。pipeline类本身具有fit、pre...https://blog.youkuaiyun.com/elma_tww/article/details/88427695

矩阵求导的本质与分子布局、分母布局的本质（矩阵求导——本质篇） - 知乎〇. 前言在一个多月前，针对有同学关于矩阵求导中分子布局、分母布局 两者的区别的疑问，我写了如下的这篇答案。 矩阵求导中布局约定，两者布局的意义是什么?虽然这篇答案给出了几个结论，但是写的没有很严谨，并…https://zhuanlan.zhihu.com/p/263777564

【机器学习之向量求导】分子布局 分母布局_憨憨coding的博客-优快云博客_分子布局请思考：维度为m的一个向量????对一个标量????的求导，那么结果也是一个m维的向量：∂????/∂????。这个m维的求导结果排列成的m维向量到底应该是列向量还是行向量？这个问题的答案是：行向量或者列向量皆可！ 毕竟我们求导的本质只是把标量求导的结果排列起来，至于是按行排列还是按列排列都是可以的。但是这样也有问题，在我们机器学习算法法优化过程中，如果行向量或者列向量随便写，那么结果就不唯一，乱套了。为了解决矩阵向量求导的结果不唯一，我们引入求导布局。最基本的求导布局有两个：分子布局(numerahttps://blog.youkuaiyun.com/weixin_45019478/article/details/108288916

机器学习中的线性代数之矩阵求导_Vinicier的博客-优快云博客_矩阵求导前面针对机器学习中基础的线性代数知识，我们做了一个常用知识的梳理。接下来针对机器学习公式推导过程中经常用到的矩阵求导，我们做一个详细介绍。矩阵求导（Matrix Derivative）也称作矩阵微分（Matrix Differential），在机器学习、图像处理、最优化等领域的公式推导中经常用到。https://blog.youkuaiyun.com/u010976453/article/details/54381248

梯度下降和等高线的故事_哔哩哔哩_bilibili用最通俗的语言讲什么是梯度，以及梯度下降。https://www.bilibili.com/video/BV18r4y1e77a?spm_id_from=333.337.search-card.all.click

PyTorch：梯度计算之反向传播函数backward()_精致的螺旋线的博客-优快云博客介绍Pytorch中的DCG机制、backward()函数，并说明backward()函数的参数https://blog.youkuaiyun.com/baidu_38797690/article/details/122180655

《自然语言处理-基于预训练模型的方法》笔记_ZenMoore6345的博客-优快云博客_自然语言处理基于预训练模型的方法《自然语言处理-基于预训练模型的方法》笔记文章目录《自然语言处理-基于预训练模型的方法》笔记@[toc]〇.写在前面一、绪论(一) NLP 任务体系I.任务层级II.任务类别III.研究层次(二) 预训练的时代二、NLP 基础(一) 文本表示I.独热向量II.分布式表示III.词嵌入表示IV.词袋表示(二) NLP 任务I.语言模型II. 基础任务III. 应用任务(三) 基本问题I. 文本分类问题II. 结构预测问题III. 序列到序列问题(四) 评价指标I. 标准答案明确的情况II. 标准答案不明确的https://blog.youkuaiyun.com/github_34349558/article/details/119683135

一文弄懂LogSumExp技巧_愤怒的可乐的博客-优快云博客_logsumexp什么是LogSumExp？https://blog.youkuaiyun.com/yjw123456/article/details/121869249

【循环神经网络】5分钟搞懂RNN，3D动画深入浅出_哔哩哔哩_bilibili20世纪影响力最大的人工智能算法，语音识别、机器翻译、自动写作、NLP等应用的核心， 通俗易懂的讲明白！https://www.bilibili.com/video/BV1z5411f7Bm/

从整体视角了解情感分析、文本分类！https://baijiahao.baidu.com/s?id=1716635015679615803&wfr=spider&for=pc

关于NLP你不知道的那些事http://xn--nlp-928downa9g81foyilu1j6fdi60h03a/

Dropout和BN(层归一化)详解_谈笑风生...的博客-优快云博客_层归一化无论是机器学习，还是深度学习，模型过拟合是很常见的问题，解决手段无非是两个层面，一个是算法层面，一个是数据层面。数据层面一般是使用数据增强手段，算法层面不外乎是：正则化、模型集成、earlystopping、dropout、BN等，本文重点详细讲解一下dropout和BN。Dropout背景在2012年，Hinton在其论文《Improving neural networks by prev...https://blog.youkuaiyun.com/qq_40176087/article/details/105904379

最新NLP Prompt代表工作梳理！ACL 2022 Prompt方向论文解析 - 知乎如果觉得我的算法分享对你有帮助，欢迎关注我的微信公众号“圆圆的算法笔记”，定期更新深度学习/CV/NLP/搜推广干货笔记，和世间万物的学习记录~Prompt是当下NLP领域研究的热点之一，在ACL 2022中有很多prompt相关…https://zhuanlan.zhihu.com/p/498117698