「AI Drive」是由 biendata 和 PaperWeekly 共同发起的学术直播间,旨在帮助更多的青年学者宣传其最新科研成果。我们一直认为,单向地输出知识并不是一个最好的方式,而有效地反馈和交流可能会让知识的传播更加有意义,从而产生更大的价值。
本期 AI Drive,我们邀请到香港科技大学-任烜池,为大家在线解读其发表在 ICLR 2022的最新研究成果: 利用预训练的生成模型来学习解耦表征:对比学习视角。对本期主题感兴趣的小伙伴,5月10日(周二)晚7点,我们准时相约 AI_Drive B 站直播间。
一、直播信息
1、演讲摘要:
从解耦纠缠的直观概念来看,不同因素对应的图像变化应该是相互区分的,并且解耦的表征应该在不同的纬度反应这些图像变化。为了发现这些因素并学习解耦表征,以前的方法在学习生成逼真的图像时通常会利用额外的正则化项。但是,该种正则项通常会导致解耦和生成质量之间的权衡。对于没有任何解耦项的预训练生成模型,生成的图像在潜在空间中沿不同方向遍历时显示出语义上有意义的变化。基于这一观察,我们认为可以通过(i)利用具有高生成质量的预训练生成模型,(ii)专注于发现遍历方向作为解耦表征学习的因素来减轻权衡。为了实现这一点,我们提出通过对比学习来解纠缠(DisCo)作为框架,基于目标的解