- 博客(5)
- 收藏
- 关注
RSS订阅原创 深度学习第4次作业
为什么L1 正则化会导致稀疏性？基本概念：稀疏矩阵：稀疏矩阵指有很多元素为0，少数参数为非零值的矩阵。稀疏参数：问题讨论：一般而言，只有少数部分也特征对模型有贡献，大部分特征对模型没有贡献或着贡献很小，稀疏参数的引入，是的一些特征对应的参数是0，所以就可以剔除没有用的特征，从而实现特征选择，提高模型的泛化能力，降低过拟合的可能。L1 正则使得参数稀疏可以从函数的角度来看。1维情形：...
2020-05-17 10:49:18
354
原创 深度学习中的正则化
主要结论：测试误差一般来源于偏差（Bias）和方差（Variance）当偏差大的时候出现欠拟合，当方差大的时候出现过拟合。解决方法：当偏差大的时候，增加特征个数（使用更复杂的模型）来优化；当方差大的时候，增加样本个数或者正则化来优化。偏差和方差的定义估计变量xxx的均值：假设xxx的平均值是μ\muμ,方差是σ2\sigma^2σ2,现已知xxx的一些样本点（但不全知道）的情况下...
2020-04-24 21:08:40
347
原创 深度学习2-4
第二章：线性代数2.1 标量、向量、矩阵和张量标量：一个标量就是一个数。向量：第三章：概率论与信息论3.2 随机变量随机变量是可以随机地取不同值的变量。一个随机变量只是对可能的状态的描述，它必须伴随一个概率分布来指定每个状态的可能性。3.3 概率分布概率分布用来描述随机变量或一簇随机变量在每一个可能取到的状态的可能性大小。3.3.1 离散型变量和概率质量函数离散型变量的概率...
2020-03-30 11:55:28
311
原创 Quantum Tensor Networks in a Nutshell
张量网络方法在现代量子物理中发挥着重要的作用。它们可以对某类量子态和相关联的图形语言提供有效的近似，使其易于描述和图示出量子电路、信道、协议、开放系统等的推理过程。目标是尽可能简单的解释张量网络和一些相关的方法。起初通过实例来介绍图形张量网络语言的关键定义。然后介绍矩阵乘积态。利用张量缩并来评估组合计数问题，第一个问题是计数布尔函数的解的个数，第二个是Penrose的张量缩并算法，计数3-正则平面图的3边着色数量。
2019-08-23 14:30:34
783
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人