- 博客(13)
- 资源 (2)
- 收藏
- 关注
RSS订阅
原创 为什么拉格朗日对偶函数一定是凹函数(逐点下确界)
转载请注明出处：http://mp.blog.youkuaiyun.com/mdeditor一、问题描述首先以不严谨的方式给出标准形式的优化问题（具体请参考《凸优化》——Boyd，第五章），：min f0(x)f0(x)f_0(x)s.t.fi(x)≤0,i=1,2,⋅⋅⋅,mfi(x)≤0,i=1,2,⋅⋅⋅,m\quad f_i(x)\le0,\quad i = 1, 2, \cdot\c...
2018-01-24 18:42:34
19635
19
原创 L1正则化导致稀疏解的原因
设原损失函数为：L(x,θ)L(x,\theta)L(x,θ)，其中模型参数为：θ\thetaθ。带L1L_1L1正则项的损失函数为：J1(x,θ)=L(x,θ)+λ∥θ∥1J_1(x,\theta)=L(x, \theta)+\lambda\parallel\theta\parallel_1J1(x,θ)=L(x,θ)+λ∥θ∥1，带L2L_2L2正则项的损失函数为：J2(x,θ)=L(x,θ)+λ∥θ∥2J_2(x,\theta)=L(x, \theta)+\lambda\parallel\
2020-05-16 23:11:13
1869
原创 RNN对隐含层求梯度
在看《动手学深度学习》一书时，里面有介绍简化版的对RNN求梯度。其中求隐含层梯度时，作者只是简略地说了句“将上⾯的递归公式展开”就直接给出了结果，下面我详细地给出中间步骤。αLαht=Whh⊤⋅αLαht+1+Wqh⊤⋅αLαOt\frac{\alpha L}{\alpha h_t} = W^{\top}_{hh} \cdot \frac{\alpha L}{\alpha h_{t+1}} + W^{\top}_{qh} \cdot \frac{\alpha L}{\alpha O_t} αht
2020-05-15 13:21:04
616
转载 大文件的排序
这篇是转发的：https://blog.youkuaiyun.com/longzuo/article/details/46409249//多路归并外排序的实现 //将一个保存在磁盘上的文件内的数据进行排序 //基本思路是：设文件共有m*n条记录， 内存中每次可以对m条记录进行排序 //则排序过程分两步： //第一步：从磁盘中读入m条记录到内存； 在内存排序； 将排好序的数据写入新文件； // ...
2018-07-13 20:42:11
2258
原创 支持向量机（SVM）中拉格朗日函数对w求导
首先给出拉格朗日函数： L(w,b,α)=12∥w∥2−∑i=1Nαiyi(w⋅xi+b)+∑i=1Nαi（公式1）L(w,b,α)=12∥w∥2−∑i=1Nαiyi(w⋅xi+b)+∑i=1Nαi（公式1）\begin{equation*} L(w,b,\alpha)=\frac{1}{2}{\parallel}w{\parallel}^2- \sum\limits_{i=1}^{N}\al...
2018-05-03 17:43:21
4490
5
翻译 sklearn.neural_network 中的 MLPClassifier 的部分文档翻译
sklearn.neural_network 中的 MLPClassifier 的部分文档翻译
2018-03-31 09:51:21
2736
原创 ax.plot(xMat)中Mat类型参数是m*n结构的图像
转载请注明出处：http://blog.youkuaiyun.com/u014540876/article/details/79331341今天遇到一个绘制图像的函数：ax.plot(xMat)，其中的参数是Mat类型的，然后就查了不少资料，却没有找到一篇解释这种情况的文章，颇费了些功夫，最终才明白绘制出的图像与参数xMat的关系。特地在此记录一下，也让自己记得更牢固。 一、当参数xMat是m*1的矩阵...
2018-02-16 23:14:55
5385
原创 高斯混合模型（GMM）及其求解（期望最大化（EM）算法）
转载请注明出处：http://blog.youkuaiyun.com/u014540876/article/details/791158051、高斯混合模型的公式表达高斯混合模型是指随机变量x具有如下形式的分布（概率密度函数）： (公式1) 其中，参数θθθ代表所有混合成分的参数（均值向量μ与协方差矩阵Σ）的集合： (公式2) 每个混合成分的概率密度函数为： (...
2018-01-23 16:57:24
13731
转载 动态代理与类加载器
http://blog.youkuaiyun.com/lutianfeiml/article/details/51725270
2016-07-31 19:42:34
385
转载 正确使用 Volatile 变量
Java 语言中的 volatile 变量可以被看作是一种 “程度较轻的 synchronized”；与 synchronized 块相比，volatile 变量所需的编码较少，并且运行时开销也较少，但是它所能实现的功能也仅是 synchronized 的一部分。本文介绍了几种有效使用 volatile 变量的模式，并强调了几种不适合使用 volatile 变量的情形。锁提供了两种
2016-07-06 10:48:29
284
转载 Java 类中各成分加载顺序 和 内存中的存放位置
http://blog.youkuaiyun.com/hmzdbql/article/details/8097172
2016-04-23 15:07:05
373
转载 关于java的JIT知识
http://m.blog.youkuaiyun.com/article/details?id=6782358 1.JIT的工作原理图 工作原理 当JIT编译启用时（默认是启用的），JVM读入.class文件解释后，将其发给JIT编译器。JIT编译器将字节码编译成本机机器代码。 通常javac将程序源代码编译，转换成java字节码，JVM通过解释字节码将其翻译成对应的机器指令，
2016-04-09 21:44:02
302
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人