m0_55196097的博客

我们做出了以下贡献:(i)我们引入了NNCLR来学习超越单实例阳性的自监督表示，而不依赖于聚类;(ii)我们证明了NNCLR将对比学习方法(例如SimCLR[12])的性能提高了约3:8%，并且在ImageNet分类上实现了具有有限标签的线性评估和半监督设置的最先进性能;(iii)在12个迁移学习任务中的8个上，我们的方法在自监督甚至监督特征(通过监督ImageNet预训练学习)上都优于最先进的方法;

这两个函数对于模型微调（fine-tuning）和迁移学习（transfer learning）等场景非常有用。例如，在迁移学习中，你可能希望冻结预训练模型的一部分参数，只更新模型的最后几层以适应新任务。通过这两个函数，可以方便地控制模型参数的梯度计算状态。这段代码定义了两个函数：`freeze_net` 和 `unfreeze_net`，这两个函数的目的是分别冻结和解冻一个神经网络模型的参数，控制是否对模型参数进行梯度计算。

Closed-set domain adaptation（闭集领域适应）是迁移学习中的一个子问题，其中我们假设源领域和目标领域的所有类别都是已知的且完全相同的。这意味着在执行领域适应时，源领域和目标领域之间没有新出现或消失的类别。简单来说，假设我们有一个在源领域（例如，一套特定的图像）上训练过的模型，我们希望将这个模型迁移到目标领域（例如，另一套风格不同的图像），但具有相同的类别标签。在闭集领域适应中，源领域和目标领域的类别标签是完全相同的，而无需处理未在源领域中看到的新类别或已消失的类别。

它包括采用预先训练的模型（在源任务上训练的模型），并使用它来改进新目标任务的学习。这可以包括使用模型作为特征提取器，微调模型，或使用模型的部分作为初始化。

事情的经过大致是这样：今天在github上拿到一个处理时间序列的迁移学习项目的复现代码，项目文件如下所示：或者我们来关注一下tl4sm这个文件夹里的东西：当我按照项目要求在terminal下pip install tl4tm时，意料之中的报错了。其实看到这种代码，我的第一反应就是“这不就是在代码里调用了自定义模块嘛，把模块的路径用sys.path.append()加入代码中不就好啦”。

迁移学习利用一个问题中的数据或知识来帮助解决另一个不同但相关的问题。它在脑机接口（BCI）中特别有用，用于应对不同受试者和/或任务之间的差异。本文考虑离线无监督跨受试者脑电图（EEG）分类，即我们对一个或多个源受试者的EEG试验进行了标记，但只对目标受试者进行了未标记的脑电图试验。我们提出了一种新的流形嵌入知识转移（MEKT）方法，该方法首先在黎曼流形中对齐EEG试验的协方差矩阵，提取切线空间中的特征，然后通过最小化源域和目标域之间的联合概率分布偏移来执行域自适应，同时保留它们的几何结构。

PACS，数据集是一个域自适应的图像数据集，包含4个域，照片（1670张），艺术画（2048张），动画片（2344张）和素描（3929张）。类办公室环境中常见的目标物体，如笔记本电脑、文件柜、键盘等，共。张图像，图像表现出明显的噪点，颜色和白平衡伪。中的主流基准数据集，该数据集包含了。（网络摄像头拍摄的低解析度图片）、（单反相机拍摄的高解析度图片）。网络摄像头拍摄的低解析度图片。训练集：8977张图片。测试集：1014张图片。验证集：9991张图片。）四种数据库的数据，数据集中相同的类：”

所谓时间序列，指的是按照时间、空间或其他定义好的顺序形成的一条序列数据。由于时间的连续性，不难想象，时间序列数据会随着时间动态变化。特别地，时序列的一些统计信息（例如均值、方差等）会随着时间动态变化。统计学通常将此类时间序列称为非平稳时间序列。为解决此问题，传统方法通常基于马尔可夫假设来建模，即时间序列上的每个观测仅依赖于它的前一时刻的观测。