
non parametric Bayesian
xyqzki
wahahahaahahahahah
展开
-
很多Machine Learning的问题都可以归结为regression
General的regression,我们看做,given x1 vector, x2 vector,..., xn vector,来求fit 这个data sample 最合适的function or 分布,首先可以用polynomial的分布,可能这个分布无论如何tuning 参数weight,也不能很好的fit these data,然后可以考虑使用其他的分布形式,但是最原创 2013-09-04 08:22:39 · 733 阅读 · 0 评论 -
nonparametric Bayesian 的motivation
见PRMLgiven a data sample, 我们要求其分布,如果是parametric的Bayesian,我们会设定一个model ,假定是gaussian,参数为u,theta,但是最后可能整个参数空间的值,after model selection,都不能很好的fit 这个data sample。所以我们需要换一个model,可以换成GMM,再tuning 其参数,原创 2013-09-04 08:28:07 · 883 阅读 · 0 评论 -
model selection&averaging
http://www.gatsby.ucl.ac.uk/~ywteh/teaching/npbayes/mlss2007.pdfhttp://mlg.eng.cam.ac.uk/tutorials/07/ywt.pdfmodel selection 就是说 model有很多参数,参数空间组成了很多不同的model,model selection就是选择一个最合适的paramer原创 2013-09-03 19:27:57 · 851 阅读 · 0 评论 -
Deduction & Induction
ref:http://www.psych.utah.edu/gordon/Classes/Psy4905Docs/PsychHistory/Cards/Logic.htmlLogical arguments are usually classified as either 'deductive' or 'inductive'.Deduction: In the process of ded转载 2013-09-04 09:48:23 · 2113 阅读 · 0 评论 -
nonparametric Bayesian model motivation
Given a set of observed data, two clusters generated by GMM of two components, we need to find a model to fit them. For parametric model, we can see the observed data's appearance or empiric原创 2013-09-16 23:08:41 · 1036 阅读 · 0 评论 -
dirichlet mixture process
仅仅是把z的选取 从以前的multinomial 分布改成了,condition on previous z与 G的分布,这个分布可以用CRP, or stick construction来刻画原创 2013-10-13 14:38:48 · 896 阅读 · 0 评论 -
nonparametric method
nonparametric 也要做model selection,即alpha,选择一个new cluster的概率,就是说我们可以通过alpha调整用来fit 这些dataset的cluster 数目原创 2013-10-13 14:52:16 · 882 阅读 · 0 评论