【论文笔记】ClusterGAN: Latent Space Clustering in Generative Adversarial Networks

【论文笔记】ClusterGAN: Latent Space Clustering in Generative Adversarial Networks

• 文章题目：ClusterGAN: Latent Space Clustering in Generative Adversarial Networks
• 作者：Sudipto Mukherjee，Himanshu Asnani，Eugene Lin，Sreeram Kannan
• 关键词：
• 时间：2019
• 来源：AAAI 2019
• paper：https://ojs.aaai.org/index.php/AAAI/article/view/4385 ，https://arxiv.org/pdf/1809.03627.pdf
• code：
• 引用：Mukherjee, S., Asnani, H., Lin, E., & Kannan, S. (2019). ClusterGAN: Latent Space Clustering in Generative Adversarial Networks. Proceedings of the AAAI Conference on Artificial Intelligence, 33(01), 4610-4617. https://doi.org/10.1609/aaai.v33i01.33014610

感性认识

• 研究的基本问题
  用GAN进行聚类，在潜在空间中聚类。
• 现有问题
  将数据投影到潜在空间是可行的，但是投影之后用于聚类是不可行的。潜在空间是基于高斯或者均匀分布的，难以描述样本之间聚类的距离关系。对可解释性和跨簇的插值不友好。
• 主要想法
  模型：
  

1. 从离散-连续混合分布中抽样，构建隐含空间和生成器
   z = ( z n , z c ) , z n ∽ N ( 0 , σ 2 I d n ) , z c = e k , k ∽ U { 1 , 2 , ⋯   , K } z=\left( z_n,z_c \right) ,z_n\backsim \mathcal{N}\left( 0,\sigma ^2I_{d_n} \right) ,z_c=e^k,k\backsim \mathcal{U}\left\{ 1,2,\cdots ,K \right\} z=(zn​,zc​),zn​∽N(0,σ2Idn​​),zc​=ek,k∽U{ 1,2,⋯,K} $e^k$为$R^K$中的第K个基本向量，K为数据中的簇数。
2. 改进反向传播解码（反向映射网络）
   $$z^{\ast }=arg\underset{z}{\min }\Vert \mathcal{G}\left(z\right)-x{\Vert }_1+\lambda \Vert z_n{\Vert }_2^2$$
3. 使用线性生成器进行聚类
4. 引入编码器，加入聚类特定目标项，联合优化与训练
   

• 结果与结论
  clusterGAN可以产生平滑的类间插值。$$z=(zn,\mu z_c^{}$$