Understanding disentangling in β-VAE论文阅读笔记

---

前言

文章：Understanding disentangling in β-VAE
原文链接：链接
Understanding disentangling in β-VAE是基于β-VAE的一篇文章。
首先，β-VAE中存在几个问题：
1.β-VAE仅仅是通过在KL项增加一个超参数β，发现了模型具有解耦的特性，但是并没有很好的解释为什么增加一个超参数β会产生解耦的特性。
2.β-VAE发现，解耦效果好时重建效果不好，重建效果好时解耦效果差，所以需要权衡解耦与重建。
基于此，Understanding disentangling in β-VAE通过信息瓶颈理论给出了β-VAE解耦的解释，并且针对于β-VAE需要权衡解耦与重建，他们提出了自己的训练方法----在训练过程中逐步增大潜在变量的信息量。
原文中首先还介绍了一下VAE与β-VAE，这里就不过多介绍了，感兴趣的可以看我之前的文章
VAE
β-VAE

---

一、信息瓶颈是什么？