LDA topic model 公式推导:
p(w,z∣α,β)=p(w∣z,α,β)∗p(z∣α,β)p(w,z| \alpha,\beta)=p(w|z,\alpha,\beta)*p(z|\alpha,\beta)p(w,z∣α,β)=p(w∣z,α,β)∗p(z∣α,β)
β\betaβ与z独立:p(z∣α,β)=p(z∣α)p(z|\alpha,\beta)=p(z|\alpha)p(z∣α,β)=p(z∣α)
w与α独立w与\alpha 独立w与α独立:p(w∣z,α,β)=p(w∣z,β)p(w|z,\alpha,\beta)=p(w|z,\beta)p(w∣z,α,β)=p(w∣z,β)
解释:gibbs采样过程遵从马尔可夫性质.
a->b->c,a与c是独立的,因此α\alphaα与w独立