- 博客(34)
- 收藏
- 关注
原创 什么是HNSW(Hierarchical Navigable Small World,层次化可导航小世界)
Kleinberg 进一步证明,只要长连接的分布合适,一个人不需要知道全图,每一步只选 "当前认识的人里最可能接近目标的那个"(贪心路由),就能在 O (log²N) 步内走到目标。近似最近邻(ANN)放弃 "必须找到全局真正最近的 k 条" 这个严格要求,允许漏掉极少数真正的近邻,牺牲一点召回率(可能漏掉极少数真正的最近邻),换取数量级的速度提升,HNSW 就是 ANN 方案中的一种。,本质是一张分层的 “向量邻居关系图”,检索就是从顶层入口点开始,一层一层往下跳,每次都往离查询更近的节点走。
2026-10-26 15:06:18
165
原创 论文《向量数据库中的目录感知查询与维护》的疑难杂症
ANN 索引:数据库里真正做 "意思相近搜索" 的那个零件(论文里试了两种:PG 图索引、IVF 倒排索引)。目录语义层:加在搜索零件前面的一个独立小模块,专门负责 "先把范围圈出来"。解耦 / 可插拔:这两个零件分开、互不绑定 ——换搜索零件(图索引 ↔ 倒排索引),圈范围的模块不用改;圈范围的模块自己换一种做法,搜索零件也不用动。就像文件柜里 "负责圈抽屉的人" 和 "负责在抽屉里翻找的人" 是两个人配合,各干各的;你换个翻找的人,圈抽屉的人照常干活。论文把这条单独列为一条要求:目录层。
2026-10-26 13:13:11
283
原创 Navigating Labels and Vectors: A Unified Approach to Filtered Approximate Nearest Neighbor Search解读
先把基础概念讲清楚。传统ANNS(Approximate Nearest Neighbor Search,近似最近邻搜索)只做一件事:给一个查询向量 \(v_q\),从高维向量库里找出距离最近的 k 个。而论文研究的Filtered ANNS(带过滤条件的近似最近邻搜索)多了一个约束:每个基础向量 \(v_i\) 除了向量本身,还携带一个标签集(label set)\(f_i\);查询时同时给出向量 \(v_q\) 和查询标签集 \(f_q\),只有满足。
2026-10-22 16:50:06
332
原创 论文精读:《Directory-Aware Query and Maintenance in Vector Databases》
这篇论文的贡献不是 "新的向量排序算法",而是指出向量库把层级目录拍平成字符串是一切读延迟与写放大的根源;它用 "可插拔作用域层 + 2 读 2 写原语" 把设计空间讲清,并证明原生前缀树(TrieHI)以可控的额外存储,换来递归查询免展开、子树搬迁只改祖先链的稳定低延迟,最终在 Agent 记忆(LOCOMO 准确率 24%→82%)和多跳 QA(HotpotQA 91% @0.23s)上拿到可落地收益。
2026-10-20 20:43:23
388
原创 TANNS 完整端到端流程梳理
数据写入 → 按时间增量插入 → 构建时间戳图TG → 增量压缩进历史邻居树HNT↑ ↓│ 持续动态更新 查询请求到来│ ↓└──── 向量过期/新增 ←──── 重建ts时刻邻居列表 ←── 解析查询时间戳ts↓多层贪心导航搜索↓返回top-k结果利用时间局部性复用索引结构,通过主备机制保障动态稳定性,通过树状归档压缩历史冗余,最终在单索引的存储成本下,实现了全历史时间戳的高效近似近邻搜索。
2026-10-15 13:05:33
186
原创 《Timestamp Approximate Nearest Neighbor Search over High-Dimensional Vector Data》深度解读
离散时间戳、每个时间戳只发生一次变更、写入时不知道失效时刻(end time 未知),最大时间戳 T 满足 T ≤ 2N。
2026-10-15 12:59:17
339
原创 论文精读 | Fast Approximate Similarity Join in Vector Databases(SimJoin)
假设你有。
2026-10-12 10:32:47
368
原创 《RWalks: Random Walks as Attribute Diffusers for Filtered Vector Search》深度精读
过滤向量搜索(Filtered Vector Search),又称混合搜索(Hybrid Search)或约束向量搜索(Constrained Vector Search),是指在向量相似度检索的同时,要求结果满足一系列结构化属性条件(如 "红色衬衫"" 价格 < 200 元 ""有库存")。论文以电商搜图为例做了直观演示:这一问题的核心难点在于过滤特异性(Specificity)—— 即满足过滤条件的点占全数据集的比例 —— 在真实负载中跨度极大(从 0.1% 到 50%),而现有方法无法在全区间内保持稳
2026-10-11 13:55:43
373
原创 多模态数据集:存储 + 完整搜索链路拆解
按论文的开放数据集搜索:用户输入(关键词 / 示例数据 / 自然语言)→ 系统要找的输出是,不是数据集里面的一条记录。,分别讲:原始怎么存 → 建立什么索引 → 用户查询进来怎么算相似度 → 最后输出哪些数据集。重要区分两件事: 1):硬盘 / 数据库里面原始数据长什么样;2):为了快搜,额外预计算出来的 “检索替身”,搜索几乎不会扫描全部原始数据;3):拿【用户查询 Q】和【数据集 Dᵢ的索引替身】算分数,对数据集排序;4)输出:返回 top‑k,不是返回数据集内部一条条数据。
2026-09-20 16:30:13
277
原创 研读:Efficient Privacy-Preserving Range Filtered Approximate Nearest Neighbor Search高效隐私保护的范围过滤近似最近邻搜索
通俗来说,就是要破解 “加密后传统索引失效、加密计算速度极慢” 的行业痛点,在保证隐私和精度的前提下,让加密向量数据库的范围过滤检索性能接近明文水平,并且可扩展到大规模数据集。本研究首次实现了加密向量数据库上高效的范围过滤相似度查询,让企业可以在满足合规要求的前提下,将敏感向量数据库外包给云服务商,直接推动了向量数据库云服务的普及和落地。当前搜索的主流趋势是 “向量相似度 + 结构化条件” 的混合查询(如 “找 2024 年发布、和这张图相似的商品”“找 100-200 元之间、语义相近的文案”)。
2026-09-13 21:00:58
172
原创 联邦学习-威胁模型
攻击者会严格遵守协议的全部流程,忠实地执行所有规定步骤、存储指定数据、返回正确结果;但它会在执行过程中,试图从自己能观察到的所有信息里,推断出额外的敏感信息。行为完全合规,但好奇心很强,偷偷想从所见信息里反推隐私。它不会主动搞破坏,只会「被动偷听 + 推理」。攻击者可以任意偏离协议流程,不受任何行为约束,只要能达成攻击目标(窃取隐私或破坏正确性),任何手段都可以用。不仅想偷看,还会主动耍花招、搞破坏,甚至故意返回错误结果误导你。
2026-09-13 20:22:48
401
原创 论文深度解读:向量数据库的黑洞攻击与嵌入空间几何缺陷
本文针对发表于 PVLDB 2026 的论文《Can You Trust the Vectors in Your Vector Database?Black-Hole Attack from Embedding Space Defects》进行系统解读,覆盖研究目标、产业价值、方法创新、实验验证、未来方向与批判性思考六大维度。
2026-09-09 19:59:59
296
原创 3研究生阶段规划(核心:研三全流程落地规划)
研三是研究生阶段最关键的分水岭,核心矛盾为「毕业论文硬指标」与「职业发展窗口期」的时间冲突。先搞定论文守住毕业底线,再全力冲刺职业上限,拒绝三心二意、两头落空。核心前提:研三所有任务的顺利推进,需建立在研二已完成学院/课题组要求的基础任务(修完课程、完成基础科研工作)之上,避免研三陷入“论文+求职”双重焦虑。研究生阶段(尤其是研三)的核心是“优先级排序”:先完成小论文、大论文,再推进求职/考公,避免双重内耗;学会保护自己,合理应对导师不合理要求,规避学术不端和被骗风险;
2026-05-11 10:49:52
387
原创 研读报告:Mem0 面向生产级 AI 智能体的可扩展长期记忆架构
单跳:只查一条记忆、单轮对话,直接拿答案;多跳:要把多轮 / 多会话的多条记忆拼起来推理,才能得出答案。性能全面超越现有记忆系统,兼顾精度与推理能力。双架构适配不同任务场景,灵活性强。工程化程度高,低延迟、低 token、实时可用,满足生产要求。记忆自动维护,一致性与时序性保障完善。
2026-04-22 00:13:31
953
原创 高效阅读论文及AI辅助技巧学习
摘要核心是概括论文核心内容,但内容简洁、不够详细,且引言会包含摘要的大部分信息,因此无需精读:出于尊重,可简单浏览,了解论文大致方向;若觉得冗长,可借助AI总结,仅关注AI总结中的“方法部分”即可,无需深究其他内容。
2026-04-21 00:34:36
427
原创 1研一新生入学规划
研一核心逻辑:搞懂“上课仅为修学分、读研只为保毕业”,将时间优先投入到“水论文”相关的核心任务(方向选择、基础学习、学术裁缝)中,避开无用功。研一核心任务:上半年夯实基础、确定方向,下半年学习学术裁缝、尝试论文实操,确保顺利推进水论文,为毕业奠定基础。核心优先级:保毕业>基础学习>方向选择>课程学习,所有任务都围绕“顺利毕业”展开,不盲目追求科研、能力提升。
2026-04-20 10:33:08
432
原创 0准研究生入学建议
毕业目标要务实:建议按“考公考编>企业工作>读博”的优先级,结合自身家庭情况、个人能力和发展诉求合理选择,避免盲目跟风,优先选择稳定性高、适配自身的目标,确保研究生三年有明确方向、有实质收获。核心能力要提升:研究生阶段需重点培养信息搜集能力、独立解决问题的能力、人情世故的理解能力,这些能力比单纯的科研能力更重要,能为未来的就业、读博或其他发展提供有力支撑,终身受益。
2026-04-20 10:25:29
350
原创 从 LLM 到 Agent Skill,带你打通底层逻辑!
本质是给大模型的具体问题或指令,是模型启动运转的前提(无Prompt则模型无法输出内容),例如“帮我写一首诗”就是典型的Prompt。
2026-04-17 10:16:58
591
原创 金字塔池化模块(PPM)
PPM(Pyramid Pooling Module)是 PSPNet 的核心模块,通过并行多尺度池化,把特征图拆成不同大小区域做池化,再融合回原尺寸,让模型同时拥有全局视野与局部细节。ResNet50 原生:强在局部特征提取,弱在全局上下文与多尺度:保留局部优势,新增全局 + 多尺度上下文,让模型 “既见树木,又见森林”
2026-03-22 00:12:11
638
原创 从 0 到 1 吃透 YOLO:推理、训练、验证全解析
YOLO 是一种端到端的实时目标检测算法,区别于传统 “先候选框再分类” 的两步法(如 R-CNN 系列),YOLO 直接将图像输入神经网络,一次性输出目标的边界框坐标和类别概率 ——“只看一次” 就完成检测,兼顾速度和精度。
2026-03-03 01:44:56
772
原创 9生成任务实战:基于 BART 的 CT 报告诊断生成项目
这个项目是一个典型的医学文本生成任务,具体来说是CT 报告诊断生成任务,属于医疗 AI 的重要应用方向。
2026-02-27 03:10:21
896
原创 6自然语言处理-NLP
一般一个self - attention 模型 ,一个字的编码维度是768, 字的个数可以按照128,或者512计算。这里的数字的含义是什么?768 维:指每个字的向量长度(特征维度),是模型对一个字的 “描述维度”;128/512:指序列长度(token 数量),是模型能处理的 “最多字数”,本质是序列维度。→ 768 维特征(768 个小数)
2026-02-22 02:00:50
769
原创 5食物图像分类实战代码
泛化能力(Generalization Ability)是指模型从训练数据中学到的规律,迁移到全新的、未见过的测试数据上的能力,简单说就是模型 “举一反三” 的能力 —— 训练时学的是 “例题”,测试时要能解 “新题”,泛化能力越强,模型在新数据上的预测效果越好。# 训练集数据增广:引入随机操作,提升模型抗干扰能力(防止过拟合)transforms.ToPILImage(), # 将numpy数组转为PIL图片(因为后续操作仅支持PIL)
2026-02-03 21:55:00
886
原创 4图像分类任务
前端卷积层:疯狂卷特征可用 N 次 3×3卷积(p1s1 保尺寸、p1s2 下采样),把原始图片(3×H×W)卷成C×Hf×Wf的特征图(C = 通道数,Hf/Wf = 特征图宽高,核心是提特征。全局池化层:特征聚合(压扁成 1D 向量)用全局平均池化 / 全局最大池化,把C×Hf×Wf 的 2D特征图,聚合成C×1×1的张量,再直接展平成长度为 C 的 1D 向量(比如 1024×7×7→1024×1×1→1024 维向量)。保留所有通道的核心特征,同时彻底丢掉空间维度(Hf/Wf)
2026-01-31 13:34:53
911
原创 3回归项目实战:新冠病毒感染人数预测
这是模型的核心计算方法,当你用model(x)传入数据时,会自动调用这个方法,让输入张量x按__init__输入x:是 PyTorch 张量,形状为(比如批次大小 16,就是[16,93],代表 16 个样本,每个样本 93 维特征);:输入数据经过第一层全连接,形状变为;:经过 ReLU 激活,形状保持,仅对张量内的数值做非线性变换;:经过第二层全连接,形状变为(16 个样本,每个样本输出 1 个预测值);把形状为的张量,压缩为(比如[16,1]→[16]),目的是匹配回归任务的标签维度。
2026-01-27 21:12:00
824
原创 2.2linear代码带写
实现线性回归的核心计算逻辑,接收输入特征x、权重w和偏置b,通过矩阵乘法计算并返回线性预测值pred_y。# 定义模型(找函数)五、定义loss损失函数# 定义loss损失函数def maeLoss(pre_y, y): # 预测值与实际值一个自定义的随机梯度下降(SGD)优化器函数,作用是接收模型参数和学习率,利用参数的梯度原地更新参数值,并在更新后清空梯度,避免梯度累积。# 随机梯度下降函数def sgd(paras, lr): # 随机梯度下降,更新参数,paras传入的是全部参数。
2026-01-25 16:00:56
882
原创 1多层神经网络
本文探讨了神经网络中激活函数的核心作用。研究表明,若无激活函数,神经网络只能进行线性变换,无法处理复杂问题。通过引入Sigmoid、ReLU等非线性激活函数,神经网络获得了逼近任意非线性函数的能力。文章详细分析了激活函数的可导性要求及其在梯度回传中的重要性,并通过实例展示了多个激活函数叠加产生的分段函数效果。同时指出神经网络训练中可能出现的欠拟合(模型过于简单)和过拟合(模型过于复杂)问题,强调神经网络虽能处理复杂任务,但在某些简单问题上仍需先验知识辅助。
2026-01-02 19:06:01
895
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人
RSS订阅