<?xml version="1.0" encoding="utf-8" ?><rss version="2.0"><channel><title><![CDATA[科研笔记]]></title><description><![CDATA[]]></description><link>https://blog.youkuaiyun.com/Romaga</link><language>zh-cn</language><generator>https://blog.youkuaiyun.com/</generator><copyright><![CDATA[Copyright &copy; Romaga]]></copyright><item><title><![CDATA[常见组学技术笔记：从 DNA 基因组学到 Multi-omics]]></title><link>https://blog.youkuaiyun.com/Romaga/article/details/167177166</link><guid>https://blog.youkuaiyun.com/Romaga/article/details/167177166</guid><author>Romaga</author><pubDate>Tue, 06 Oct 2026 22:03:05 +0800</pubDate><description><![CDATA[本文系统梳理了DNA基因组学、染色质组学、转录组学及多组学技术，重点对比了7类RNA测序技术在分辨率、空间定位与检测范围上的差异。强调bulk RNA-seq适用于群体分析，而scRNA-seq/snRNA-seq可揭示细胞异质性，尤其snRNA-seq适用于难消化或冷冻样本。空间转录组（如Visium、Xenium）则实现基因表达的定位解析，推动组织微环境研究。技术选择需权衡分辨率、灵敏度与应用场景。]]></description><category></category></item><item><title><![CDATA[跨界科研笔记|用计组与通信编码读懂单细胞 R1/R2/I1 测序架构]]></title><link>https://blog.youkuaiyun.com/Romaga/article/details/162939109</link><guid>https://blog.youkuaiyun.com/Romaga/article/details/162939109</guid><author>Romaga</author><pubDate>Thu, 16 Jul 2026 16:03:01 +0800</pubDate><description><![CDATA[概念计算机/通信类比解释Index 序列CDMA 扩频码多个信号共享同一信道，用正交码区分汉明距离 ≥ 3ECC 纠错码汉明码可以纠正 1 位错误碱基平衡时钟恢复编码（8b/10b）避免长串同符号，保证信号同步无连续重复游程长度限制（RLL）硬盘编码避免长串 0/1路由器根据 VLAN Tag 分流根据标签把混合流拆分到不同端口CRC 校验失败的帧丢弃无法匹配的 reads 丢弃，保证 purity“为什么可以通过 Index 区分样本，怎么保证不重复？]]></description><category></category></item><item><title><![CDATA[科研笔记|相关性、显著性、协变量分析]]></title><link>https://blog.youkuaiyun.com/Romaga/article/details/148231391</link><guid>https://blog.youkuaiyun.com/Romaga/article/details/148231391</guid><author>Romaga</author><pubDate>Mon, 26 May 2025 15:20:51 +0800</pubDate><description><![CDATA[相关性和显著性指标是统计分析中的两个核心概念，它们在实验分析中广泛应用，但目的和解释不同。一种更直观但不完全对的解释：相关性分析是早期的初步判断，显著性是后期的相关性效能验证所以，writing的时候，明确对应的内容是“相关性分析”还是“显著性检验”]]></description><category></category></item><item><title><![CDATA[综述速读|086.04.24.Retrieval-Augmented Generation for AI-Generated Content A Survey]]></title><link>https://blog.youkuaiyun.com/Romaga/article/details/146716740</link><guid>https://blog.youkuaiyun.com/Romaga/article/details/146716740</guid><author>Romaga</author><pubDate>Sat, 29 Mar 2025 22:58:39 +0800</pubDate><description><![CDATA[论文题目：Retrieval-Augmented Generation for AI-Generated Content: A Survey论文地址：https://arxiv.org/abs/2402.19473。]]></description><category></category></item><item><title><![CDATA[论文速读|086.01.24.Cross-Modal Retrieval A Systematic Review of Methods and Future Directions]]></title><link>https://blog.youkuaiyun.com/Romaga/article/details/146704589</link><guid>https://blog.youkuaiyun.com/Romaga/article/details/146704589</guid><author>Romaga</author><pubDate>Sat, 29 Mar 2025 20:00:11 +0800</pubDate><description><![CDATA[（提示：从数据模态、语义匹配、异构性等角度回答）文章中提到的"模态鸿沟"（heterogeneous modality gap）是什么？举例说明其挑战。（提示：参考Fig.2，结合图像和文本的结构差异）跨模态检索的两种主要编码形式（real-value和hashing）各有何优劣？（关键对比：存储/计算效率 vs. 语义信息保留）异构模态差距对跨模态检索的影响？]]></description><category></category></item><item><title><![CDATA[自测|注意力机制的理解]]></title><link>https://blog.youkuaiyun.com/Romaga/article/details/145481498</link><guid>https://blog.youkuaiyun.com/Romaga/article/details/145481498</guid><author>Romaga</author><pubDate>Thu, 06 Feb 2025 20:49:22 +0800</pubDate><description><![CDATA[对于输入序列（假设长度为n），首先通过三个不同的线性变换分别生成查询矩阵Qh​∈Rn×dk​、键矩阵Kh​∈Rn×dk​和值矩阵Vh​∈Rn×dv​。这里的dk​和dv​是超参数，分别表示查询/键和值的维度，通常dk​dv​。这些，为后续计算做准备。：计算查询矩阵Qh​和键矩阵Kh​的转置的乘积，再除以dk​​，得到注意力分数矩阵。公式为Ah′​dk​​Qh​KhT​​。]]></description><category></category></item><item><title><![CDATA[跑模型主机自动重启的原因和解决方案]]></title><link>https://blog.youkuaiyun.com/Romaga/article/details/145380004</link><guid>https://blog.youkuaiyun.com/Romaga/article/details/145380004</guid><author>Romaga</author><pubDate>Mon, 27 Jan 2025 14:51:07 +0800</pubDate><description><![CDATA[一般在运行一些需要较多计算的模块的时候主机会自动重启，这种情况下有挺多原因的：]]></description><category></category></item><item><title><![CDATA[论文速读|Contrastive Region Guidance:Improving Grounding in Vision-LanguageModels WithoutTraining.ECCV24]]></title><link>https://blog.youkuaiyun.com/Romaga/article/details/145360787</link><guid>https://blog.youkuaiyun.com/Romaga/article/details/145360787</guid><author>Romaga</author><pubDate>Sun, 26 Jan 2025 02:20:28 +0800</pubDate><description><![CDATA[突出图像中特别相关的区域可以通过引导视觉语言模型（VLMs）更密切地关注这些感兴趣的区域，从而提高其在各种视觉语言（VL）任务中的性能。例如，可以给 VLMs 一个“视觉提示”，其中诸如边界框之类的视觉标记描绘出关键图像区域。然而，目前能够结合视觉引导的 VLMs 要么是专有的且昂贵，要么需要在带有视觉提示的精选数据上进行昂贵的训练。我们引入了对比区域引导（CRG），这是一种无需训练的引导方法，使开源 VLMs 能够响应视觉提示。]]></description><category></category></item><item><title><![CDATA[论文速读|MitigatingHallucinationfor LVLM by Inter-Modality Correlation Calibration Decoding.ICLR25]]></title><link>https://blog.youkuaiyun.com/Romaga/article/details/145360733</link><guid>https://blog.youkuaiyun.com/Romaga/article/details/145360733</guid><author>Romaga</author><pubDate>Sun, 26 Jan 2025 02:13:08 +0800</pubDate><description><![CDATA[大型视觉语言模型 （LVLM） 在下游多模态任务的视觉语言理解方面表现出卓越的能力。尽管取得了成功，但 LVLM 仍然在复杂的生成任务中产生幻觉，导致视觉输入和生成内容不一致。为了解决这个问题，一些方法引入了推理时间干预(inference-time interventions)，例如对比解码和注意力校正，以减少对语言先验的过度依赖(reduce overreliance on language priors)。然而，]]></description><category></category></item><item><title><![CDATA[论文速读|PAI.A Training-Free Method for Alleviating Hallucination in LVLMs_ECCV24]]></title><link>https://blog.youkuaiyun.com/Romaga/article/details/145347078</link><guid>https://blog.youkuaiyun.com/Romaga/article/details/145347078</guid><author>Romaga</author><pubDate>Sat, 25 Jan 2025 23:45:52 +0800</pubDate><description><![CDATA[现有的大型视觉语言模型 （LVLM） 主要将视觉编码器的图像特征与大型语言模型 （LLM） 保持一致，以利用其卓越的文本生成功能。然而，视觉编码器和语言模型之间的尺度差异可能导致 LLM 在多模态理解中占据主导地位。LVLM 中的这种不平衡可能会导致幻觉的情况。具体来说，LVLM 可以在有或没有视觉输入的情况下生成一致的描述，这表明某些输出仅受上下文文本的影响。我们将这种现象称为 “文本惯性”。为了解决这个问题，我们引入了一种无训练算法，以在图像理解和语言推理之间找到一个平衡点。]]></description><category></category></item><item><title><![CDATA[论文速读|Is Cosine-Similarity of Embeddings Really About Similarity?WWW24]]></title><link>https://blog.youkuaiyun.com/Romaga/article/details/145347322</link><guid>https://blog.youkuaiyun.com/Romaga/article/details/145347322</guid><author>Romaga</author><pubDate>Sat, 25 Jan 2025 22:25:42 +0800</pubDate><description><![CDATA[论文得出结论：在使用余弦相似性作为嵌入相似性度量时，应注意正则化方法的选择，因为这可能会显著影响结果的稳定性和语义解释能力。【基于objective 2 的方法更好：分别对矩阵A和B正则化，而不是对ABTAB^TABT的点积进行正则化】余弦相似度是两个向量之间角度的余弦值，或者等效于它们归一化之间的点积。一个流行的应用是通过将余弦相似性应用于学习的低维特征嵌入来量化高维对象之间的语义相似性。在实践中，这可能比嵌入向量之间的非规范化点积效果更好，但有时也比更差。]]></description><category></category></item><item><title><![CDATA[论文速读|SigLIP：Sigmoid Loss for Language Image Pre-Training.ICCV23]]></title><link>https://blog.youkuaiyun.com/Romaga/article/details/145346938</link><guid>https://blog.youkuaiyun.com/Romaga/article/details/145346938</guid><author>Romaga</author><pubDate>Fri, 24 Jan 2025 21:48:29 +0800</pubDate><description><![CDATA[论文地址：https://arxiv.org/abs/2303.15343v4代码地址：https://github.com/google-research/big_vision。]]></description><category></category></item><item><title><![CDATA[论文速读|InternVL:Scaling up Vision Foundation Models andAligningforGenericVisual-LinguisticTasks.CVPR24]]></title><link>https://blog.youkuaiyun.com/Romaga/article/details/145346073</link><guid>https://blog.youkuaiyun.com/Romaga/article/details/145346073</guid><author>Romaga</author><pubDate>Fri, 24 Jan 2025 20:44:21 +0800</pubDate><description><![CDATA[大型语言模型 （LLM） 的指数级增长为多模态 AGI 系统开辟了许多可能性。然而，视觉和视觉语言基础模型（也是多模态 AGI 的关键要素）的进步并没有跟上 LLM 的步伐。在这项工作中，我们设计了一个大规模的视觉语言基础模型 （InternVL），它使用来自各种来源的 Web 规模图像文本数据，将视觉基础模型扩展到 60 亿个参数，并逐步将其与 LLM 保持一致。]]></description><category></category></item><item><title><![CDATA[论文速读|Linguistic-Aware Patch Slimming Framework for Fine-grained Cross-Modal Alignment.CVPR24]]></title><link>https://blog.youkuaiyun.com/Romaga/article/details/145344935</link><guid>https://blog.youkuaiyun.com/Romaga/article/details/145344935</guid><author>Romaga</author><pubDate>Fri, 24 Jan 2025 20:09:30 +0800</pubDate><description><![CDATA[跨模式对齐旨在搭建连接视觉和语言的桥梁。这是一项重要的多模态任务，可以有效地学习图像和文本之间的语义相似性。传统的细粒度对齐方法严重依赖预先训练的对象检测器来提取区域特征，用于后续的区域-词对齐，从而为两阶段训练的区域检测和错误传播问题产生大量的计算成本。在本文中，我们专注于主流的视觉转换器，结合补丁特征进行补丁字对齐，同时解决由此产生的视觉补丁冗余和语义对齐的补丁歧义问题。我们提出了一种新的语言感知补丁精简 （LAPS） 框架，用于细粒度对齐，该框架。]]></description><category></category></item><item><title><![CDATA[论文速读|M2-Encoder: Advancing Bilingual Image-Text Understanding by Large-scale Efficient Pretraining]]></title><link>https://blog.youkuaiyun.com/Romaga/article/details/145344625</link><guid>https://blog.youkuaiyun.com/Romaga/article/details/145344625</guid><author>Romaga</author><pubDate>Fri, 24 Jan 2025 18:06:37 +0800</pubDate><description><![CDATA[像 CLIP 这样的视觉语言基础模型已经彻底改变了人工智能领域。然而，支持多语言（例如中文和英文）的视觉语言模型（VLM）由于大规模预训练数据集相对稀缺而滞后。为此，我们引入了一个包含超过 60 亿个图像文本对的综合双语（中英）数据集 BM-6B，旨在增强多模态基础模型以更好地理解两种语言的图像。为了处理如此规模的数据集，我们提出了一种新颖的分组聚合方法用于图像文本对比损失计算，这显著降低了通信开销和 GPU 内存需求，使训练速度提高了 60%。]]></description><category></category></item><item><title><![CDATA[论文速读|Beit: Bert pre training of image transformers.ICLR22]]></title><link>https://blog.youkuaiyun.com/Romaga/article/details/145330579</link><guid>https://blog.youkuaiyun.com/Romaga/article/details/145330579</guid><author>Romaga</author><pubDate>Fri, 24 Jan 2025 16:01:50 +0800</pubDate><description><![CDATA[我们介绍了一个自监督视觉表示模型 BEIT，它代表来自 Image Transformers 的 Bidirectional Encoder 表示。遵循在自然语言处理领域开发的 BERT [DCLT19] ，我们提出了一个掩码图像建模任务来预训练视觉 Transformers。具体来说，在我们的预训练中，每个图像都有两个视图，即图像块（例如 16×16 像素）和视觉标记（即离散标记）。我们首先将原始图像“标记化”为视觉标记。然后我们随机屏蔽一些图像补丁并将它们输入到主干 Transformer 中。]]></description><category></category></item><item><title><![CDATA[论文速读|Matrix-SSL：Matrix Information Theory for Self-Supervised Learning.ICML24]]></title><link>https://blog.youkuaiyun.com/Romaga/article/details/145330084</link><guid>https://blog.youkuaiyun.com/Romaga/article/details/145330084</guid><author>Romaga</author><pubDate>Thu, 23 Jan 2025 22:45:35 +0800</pubDate><description><![CDATA[最大熵编码框架为 SimSiam、Barlow Twins 和 MEC 等许多非对比学习方法提供了统一的视角。受该框架的启发，我们引入了 Matrix-SSL，这是一种利用矩阵信息理论将最大熵编码损失解释为矩阵均匀性损失的新方法。此外，Matrix-SSL 通过无缝整合矩阵对齐损失，直接对齐不同分支中的协方差矩阵，增强了最大熵编码方法。]]></description><category></category></item><item><title><![CDATA[论文速读|MoCo:Momentum Contrast for Unsupervised Visual Representation Learning.CVPR20]]></title><link>https://blog.youkuaiyun.com/Romaga/article/details/145329335</link><guid>https://blog.youkuaiyun.com/Romaga/article/details/145329335</guid><author>Romaga</author><pubDate>Thu, 23 Jan 2025 22:01:26 +0800</pubDate><description><![CDATA[我们提出了用于无监督视觉表示学习的 Momentum Contrast （MoCo）。从对比学习 [29] 作为字典查找的角度来看，我们构建了一个带有队列和移动平均编码器的动态字典。这样就可以动态构建一个大型且一致的字典，从而促进对比式无监督学习。MoCo 在 ImageNet 分类的通用线性协议下提供了有竞争力的结果。更重要的是，MoCo 学到的表示可以很好地转移到下游任务中。]]></description><category></category></item><item><title><![CDATA[论文速读|Neighborhood CL for Scientific Document Representations with Citation Embeddings.EMNLP22]]></title><link>https://blog.youkuaiyun.com/Romaga/article/details/145328730</link><guid>https://blog.youkuaiyun.com/Romaga/article/details/145328730</guid><author>Romaga</author><pubDate>Thu, 23 Jan 2025 20:48:13 +0800</pubDate><description><![CDATA[通过对比学习目标可以大大改进学习科学文档表示，其中挑战在于创建编码所需相似性语义的正负训练样本。以前的工作依赖于离散的引文关系来生成对比样本。然而，离散的引用强制要求对相似性进行硬性切断。这与基于相似性的学习背道而驰，并且忽略了尽管缺乏直接引用，但科学论文也可以非常相似——这是寻找相关研究的核心问题。相反，我们在引文图嵌入上使用受控的最近邻采样进行对比学习。这种控制使我们能够学习连续的相似性，对难以学习的负样本和正样本进行采样，还可以通过控制负样本和正样本之间的采样边距来避免它们之间的冲突。]]></description><category></category></item><item><title><![CDATA[论文速读|BLIP-2: Bootstrapping VLP with Frozen Image Encoders and Large Language models]]></title><link>https://blog.youkuaiyun.com/Romaga/article/details/145326293</link><guid>https://blog.youkuaiyun.com/Romaga/article/details/145326293</guid><author>Romaga</author><pubDate>Thu, 23 Jan 2025 18:05:16 +0800</pubDate><description><![CDATA[由于大规模模型的端到端训练，视觉和语言预训练的成本变得越来越高。本文提出了 BLIP-2，这是一种通用且高效的预训练策略，可从现成的冻结预训练图像编码器和冻结大型语言模型引导视觉语言预训练。BLIP-2 通过轻量级查询转换器QFormer 弥补了模态差距，该转换器分两个阶段进行预训练。第一阶段从冻结图像编码器引导视觉语言表示学习。第二阶段从冻结的语言模型引导视觉到语言的生成学习。尽管可训练参数比现有方法少得多，但 BLIP-2 在各种视觉语言任务上实现了最先进的性能。]]></description><category></category></item></channel></rss>