Iron_lyk Blog

领域泛化的目标是从一个或几个不同但相关的领域（训练集）学习一个模型，在unseen的测试领域上得到很好的泛化。（在DG的定义中，“different but related” 是重点，就是说domains虽然不同，但是一定得相关，每个domain包含的类别其实是相同的。）

论文标题：Neural scene representation and rendering作者：S. M. Ali Eslami, Danilo Jimenez Rezende, et al.期刊：Science发表时间：2018/06/15该文章提出了生成查询网络（Generative Query Network，GQN）。要解决的问题是从不同角度输入一个场景的图像，构建出内在表征，并使用这种表征预测场景中未观察到的部分。

但是在Scan2Cap以及相关的工作中，对inter-object关系的构造，是一个神经网络来学习两个object之间的关系（输入是两个object feature的拼接，输出的这两个之间的边），这种方式是比较隐式的，没有对这些复杂的关系进行直接的编码，所以导致了sub-optimal results。对于3DDC和3DVG（3D Visual Grounding）任务而言，探索目标间的关系都是很重要的，因为这是理解3D scene的重要环节，理解了3D scene才能更好的完成这两个任务。

本文首先回顾了监督、无监督、弱监督学习方法的联系和区别，并进一步回顾了域偏移、域适应、域泛化和迁移学习的定义，以及详细介绍了小样本学习（Few-shot Learning），最后全面了解元学习，并比较了它与传统机器学习的相同与区别。

DALL-E 2 论文阅读笔记。图像生成、AE、VAE、VQ-VAE、DALL-E、Diffusion model

《统计学习方法》（李航）学习笔记

【机器学习】《概率论与数理统计》基础知识笔记

自动编码器（Auto-Encoder）和变分自动编码器(Variational Auto-Encoder)学习笔记

Attention中Q，K，V的 作用机制

windows下MX150显卡安装cuda11.3+cudnn8.4.1+torch1.12.0+torchvision0.13.0+torchaudio0.12.0

独立同分布（IID）、分布外泛化(OODG)、域适应（DA）、域泛化（DG）、BN与LN归一化、Bottom-up 和 Top-down

集成学习是监督式学习的一种。主流的方法有Bagging、Boosting和Stacking。本文主要对Stacking进行讲解分析。Bagging是采取投票或平均的方式来处理N个基模型的输出，而Stacking方法是训练一个模型用于组合之前的基模型。具体过程是将之前训练基模型的输出构造为一个训练集，以此作为输入来训练一个模型，以获得最终的输出。...