
数学
文章平均质量分 53
数学笔记,包括但不限于,概率论,随机过程,优化,矩阵,实分析,泛函分析,线性代数等
Bagba
Doctor of Philosophy, machine learning on graphs. ~ 与人分享 是 最好的学习方式。
展开
-
(CCA, CANONICAL CORRELATION ANALYSIS )典型相关分析
最近需要用到CCA(CANONICAL CORRELATION ANALYSIS),典型相关分析, 所以查了一些资料,本文主要内容参考于UCLA的一个统计课:https://stats.oarc.ucla.edu/stata/dae/canonical-correlation-analysis/原创 2022-07-30 20:25:44 · 411 阅读 · 0 评论 -
如何证明内积公式
如何证明向量内积公式。一图看懂。原创 2022-06-13 18:08:52 · 5344 阅读 · 4 评论 -
TP,TN,FP,FN,F1,TPR,FPR (一图看懂)
一图看懂TP,TN,FP,FN,F1,TPR,FPR原创 2022-03-01 15:52:49 · 1190 阅读 · 0 评论 -
Gumbel softmax trick pytorch(快速理解附代码)
在深度学习中,对某一个离散随机变量X进行采样,并且又要保证采样过程是可导的(因为要用梯度下降进行权重更新),那么就可以用Gumbel softmax trick。属于重参数技巧(re-parameterization)的一种。首先我们要介绍,什么是Gumbel distribution,然后再介绍怎么用到梯度下降中,最后是用pytorch实现它。原创 2022-01-03 14:03:28 · 6185 阅读 · 0 评论 -
概率采样Sampling
Sampling核心问题是如何根据一定的分布产生随机变量.先考虑一个随机变量的例子。方法一:Function Transformatione.g.1: Given a cumulative distribution function,Fx(x)=∫−∞xp(τ)dτ. F_x(x)=\int_{-\infty}^xp(\tau)d\tau.Fx(x)=∫−∞xp(τ)dτ.then we derive a closed form inverse function uuu of F:u:=原创 2021-07-01 20:51:30 · 338 阅读 · 0 评论 -
Measuring Distributions
[Source From: https://www.countbayesie.com/blog/2017/5/9/kullback-leibler-divergence-explained]Since the origin source cannot interpret the latex, so it is convient to read here.---------------------------------------------------Kullback-Leibler Diverge原创 2021-06-22 10:24:38 · 100 阅读 · 0 评论 -
浅谈信息论(Information theory)(一)
近日需要用到一些互信息的知识,于是又重新学习了一些信息论知识,上一次学习信息论还是8年前杨洁老师的课上。信息熵熵(Entropy)最早概念来源于热力学,玻尔兹曼,普朗克扩展了热力熵:S=klogΩS = k\log \OmegaS=klogΩ, kkk 为常数,Ω\OmegaΩ为微观态数. 香农提出了平均信息熵H(X)=−∑x∈Xp(x)logp(x)H(X)=-\sum_{x\in X}p(x)\log p(x)H(X)=−∑x∈Xp(x)logp(x),来衡量信息的量,XXX是一个离散的随机变原创 2021-06-21 11:04:32 · 693 阅读 · 0 评论 -
Solving Bilinear Saddle Point by Some OG,EG,PPA algorithms
function [x,y,resh] = mysaddle(B,c,d,alg,tol,maxiter)%% Solve minimax problem:% min_x max_y f(x,y) = x'By + c'x + d'y% Inputs:% (B,c,d) is the problem data where B is m by n (m <= n) and d is in% the range of B'. Parameter alg specifies one of the原创 2021-04-17 15:15:03 · 179 阅读 · 1 评论 -
Power Method Matlab Code
Power Method Matlab Code原创 2021-03-12 21:40:48 · 663 阅读 · 0 评论