<?xml version="1.0" encoding="utf-8" ?><rss version="2.0"><channel><title><![CDATA[whenever5225的博客]]></title><description><![CDATA[]]></description><link>https://blog.youkuaiyun.com/whenever5225</link><language>zh-cn</language><generator>https://blog.youkuaiyun.com/</generator><copyright><![CDATA[Copyright &copy; whenever5225]]></copyright><item><title><![CDATA[发表在SIGMOD 2024上的高维向量检索/向量数据库/ANNS相关论文]]></title><link>https://blog.youkuaiyun.com/whenever5225/article/details/139903934</link><guid>https://blog.youkuaiyun.com/whenever5225/article/details/139903934</guid><author>whenever5225</author><pubDate>Sun, 23 Jun 2024 18:39:40 +0800</pubDate><description><![CDATA[SIGMOD 2024会议最近刚在智利圣地亚哥结束，有关高维向量检索/向量数据库/ANNS的论文主要有5篇，涉及混合查询（带属性或范围过滤的向量检索）优化、severless向量数据库优化、量化编码优化、磁盘图索引优化。下面对这些论文进行一个简单汇总介绍。]]></description><category></category></item><item><title><![CDATA[arXiv2023 | 联合embedding优化的自适应近似最近邻搜索（AdANNS）]]></title><link>https://blog.youkuaiyun.com/whenever5225/article/details/131135916</link><guid>https://blog.youkuaiyun.com/whenever5225/article/details/131135916</guid><author>whenever5225</author><pubDate>Fri, 09 Jun 2023 22:37:12 +0800</pubDate><description><![CDATA[本文指出当前ANNS使用固定的向量表示（rigid representation），而不是自适应的向量表示（adaptive representation）。一般而言，在当前的ANNS方法中，不同的阶段一般需要不同的向量表示粒度（granularities）。尽管当前一些降维方案比如PQ，随机映射等可以改变向量表示，但这会带来严重的精度损失。本文在embedding过程便考虑向量表示的自适应性，带来显著的精度和效率收益。简单地说，MRs得到一种嵌套向量表示结构，即低维向量表示是高维向量表示的前缀。]]></description><category></category></item><item><title><![CDATA[SIGMOD2023｜高维近似最近邻搜索：可信高效的距离比较操作]]></title><link>https://blog.youkuaiyun.com/whenever5225/article/details/130924981</link><guid>https://blog.youkuaiyun.com/whenever5225/article/details/130924981</guid><author>whenever5225</author><pubDate>Mon, 29 May 2023 11:34:15 +0800</pubDate><description><![CDATA[（1）在做hypothesis testing时，论文采用的取样维数步长是16，32，64时效果较好，但这三者之间性能差别不大，更大的情况不知效果如何，这可能要求原始向量维度非常高时才能取得比较好的效果。从候选中选出结果：对于一个候选o，一个距离门槛r（比如一个有序KNN集合里，距离查询第k远的对象与查询的距离），如果o小于r则加入KNN集合，否则排除。最终的KNN集合作为结果返回。ADSampling自适应地确定具体取样的维数，具体地，它增量地取样一个转移向量的维数直到能够自信地做出距离比较的决定。]]></description><category></category></item><item><title><![CDATA[内存-磁盘混合存储支撑亿级向量近似最近邻搜索（SPANN）]]></title><link>https://blog.youkuaiyun.com/whenever5225/article/details/126272251</link><guid>https://blog.youkuaiyun.com/whenever5225/article/details/126272251</guid><author>whenever5225</author><pubDate>Wed, 10 Aug 2022 18:43:16 +0800</pubDate><description><![CDATA[论文题目：SPANN : Highly-efficient Billion-scale Approximate Nearest Neighbor Search，2021年发表在NeurIPS上，论文作者：Qi Chen, Bing Zhao, Haidong Wang, Mingqin Li, Chuanjie Liu, Zengzhong Li1, Mao Yang, Jingdong Wang，单位：Microsoft, Peking University, Tencent, Baidu。...]]></description><category></category></item><item><title><![CDATA[层次Voronoi Diagrams更好地为HNSW的最底层获取入口点优化近似最近邻搜索（HVS）]]></title><link>https://blog.youkuaiyun.com/whenever5225/article/details/126268099</link><guid>https://blog.youkuaiyun.com/whenever5225/article/details/126268099</guid><author>whenever5225</author><pubDate>Wed, 10 Aug 2022 15:53:05 +0800</pubDate><description><![CDATA[本文主要关注基于graph的ANNS，认为当前graph算法主要关注如何选边以缩短搜索路径，但没有关注每一跳（hop）的计算成本。因此，本文提出一种新的graph算法——HVS （Hierarchical Voronoi Structure），它通过由粗到细的方式执行一系列子空间划分形成层次结构，在每一层通过Voronoi cell加速搜索，降低了总的搜索成本。...]]></description><category></category></item><item><title><![CDATA[面向大规模向量搜索引擎的内存-硬盘优化的近似最近邻搜索算法（GRIP）]]></title><link>https://blog.youkuaiyun.com/whenever5225/article/details/126263684</link><guid>https://blog.youkuaiyun.com/whenever5225/article/details/126263684</guid><author>whenever5225</author><pubDate>Wed, 10 Aug 2022 12:00:51 +0800</pubDate><description><![CDATA[论文题目：GRIP: Multi-Store Capacity-Optimized High-Performance Nearest Neighbor Search for Vector Search Engine，2019年发表在CIKM上，论文作者：Minjia Zha, Yuxiong He，单位：Microsoft AI and ResearchGRIP中GRI表示GraphRoutingIndex，P表示本文对PQ优化时采用的PDV, 即Partial distance value。索引。...]]></description><category></category></item><item><title><![CDATA[基于近邻图的近似最近邻搜索（学习裁边）]]></title><link>https://blog.youkuaiyun.com/whenever5225/article/details/123945859</link><guid>https://blog.youkuaiyun.com/whenever5225/article/details/123945859</guid><author>whenever5225</author><pubDate>Sun, 03 Apr 2022 22:16:18 +0800</pubDate><description><![CDATA[个人主页
简介
论文题目：GraSP: Optimizing Graph-based Nearest Neighbor Search with Subgraph Sampling and Pruning，2022年发表在WSDM会议上。论文根据查询的分布学习裁边（learn to prune）。
主要内容
论文指出基于近邻图的ANNS算法构建面临一个问题是：通过一些启发式规则开发不同的图索引结构，并没有直接从在线搜索效率的角度直接优化图索引，这使得它们在一些数据集上表现较好，在另一些数据集上表现较差。
本文]]></description><category></category></item><item><title><![CDATA[倒排索引在亿级向量数据近似最近邻搜索下的优势（IVF-HNSW）]]></title><link>https://blog.youkuaiyun.com/whenever5225/article/details/123945764</link><guid>https://blog.youkuaiyun.com/whenever5225/article/details/123945764</guid><author>whenever5225</author><pubDate>Sun, 03 Apr 2022 22:11:13 +0800</pubDate><description><![CDATA[个人主页
简介
论文题目：Revisiting the inverted indices for billion-scale approximate nearest neighbors，2018年发表在ECCV会议上。论文在分析inverted index在大规模数据上的优势（vs. IMI）并借助proximity graph （HNSW）缓解其不足，在billion-scale数据上实现更优ANNS。
主要内容
提出grouping和pruning策略优化inverted index，提升压缩精度和查询]]></description><category></category></item><item><title><![CDATA[基于异构内存的亿级向量数据近似最近邻搜索（HM-ANN论文笔记）]]></title><link>https://blog.youkuaiyun.com/whenever5225/article/details/123945553</link><guid>https://blog.youkuaiyun.com/whenever5225/article/details/123945553</guid><author>whenever5225</author><pubDate>Sun, 03 Apr 2022 22:03:18 +0800</pubDate><description><![CDATA[个人主页
简介
论文题目：HM-ANN: Efficient Billion-Point Nearest Neighbor Search on Heterogeneous Memory，2020年发表在NeurIPS会议上。论文在异构内存（HM）上优化实施基于近邻图的ANNS算法实现高效单机亿级搜索。
主要内容
论文指出当前大规模ANNS受到内存限制，一些压缩方案损失了精度。
本文主要利用数据和内存（HM）的异质性，不压缩数据，实现了单节点亿级ANNS。主要是借助新型硬件HM，它包含快内存（fast mem]]></description><category></category></item><item><title><![CDATA[DiskANN十亿级规模向量检索方案论文浅谈]]></title><link>https://blog.youkuaiyun.com/whenever5225/article/details/122147361</link><guid>https://blog.youkuaiyun.com/whenever5225/article/details/122147361</guid><author>whenever5225</author><pubDate>Sat, 25 Dec 2021 19:21:32 +0800</pubDate><description><![CDATA[论文信息
题目：DiskANN: Fast Accurate Billion-point Nearest Neighbor Search on a Single Node
作者：Suhas Jayaram Subramanya, Devvrit, Rohan Kadekodi, Ravishankar Krishaswamy, Harsha Vardhan Simhadri; 发表于NeurIPS 2019
前言
一些优秀的中文解读：（1）https://www.jianshu.com/p/07ed2202]]></description><category></category></item><item><title><![CDATA[Joint Visual-Textual Embedding for Multimodal Style Search (图像+文本多模态检索)]]></title><link>https://blog.youkuaiyun.com/whenever5225/article/details/121056723</link><guid>https://blog.youkuaiyun.com/whenever5225/article/details/121056723</guid><author>whenever5225</author><pubDate>Sat, 30 Oct 2021 21:19:29 +0800</pubDate><description><![CDATA[文章总结
视觉时装搜索时能够操纵属性是一个有意义的场景。文章的背景主要是应用导向的。面向的场景是，用户在搜索一个商品时，给出一张照片和一些文本描述，并通过文本描述修改照片的某些内容。本文的解决思路是将图像和文本嵌入到一个公共空间，通过查询给出的图像嵌入和文本嵌入之间的算术运算构建该空间中的一个新向量（对应用户的目标），用该新向量通过相似度计算检索用户的目标。下图清楚展示了这一过程。

研究内容概述
一个令人惊奇的神器：向量的算术性质


“Paris” - “France” +“Italy” = “Rome]]></description><category></category></item><item><title><![CDATA[CVPR2018-Link and code: Fast indexing with graphs and compact regression codes (图结构提升向量编码精度)]]></title><link>https://blog.youkuaiyun.com/whenever5225/article/details/121054076</link><guid>https://blog.youkuaiyun.com/whenever5225/article/details/121054076</guid><author>whenever5225</author><pubDate>Sat, 30 Oct 2021 18:10:05 +0800</pubDate><description><![CDATA[论文概述
相似性搜索是计算机视觉的一个基础模块。早期，一个图像将会对应几千个向量，因此，使用compact representation非常重要。最近，一个图像对应一个向量（通常从卷积神经网络的激活层提取）。
本文大致思路：（1）通过OPQ 压缩原始向量；（2）根据邻居执行量化回归不断优化量化码。通过交替优化学习一个回归码本（该码本即为通过离一个点的最近的几个点重构该点时的权重系数或回归系数或重构系数）以最小化重构误差。
贡献：

近似一个点时，粗质心比最近邻效果更好。向量能被它的少量邻居的线性组合（带有固]]></description><category></category></item><item><title><![CDATA[基于近邻图的向量检索算法：单调相对邻域图MRNG的一些重要理论性质]]></title><link>https://blog.youkuaiyun.com/whenever5225/article/details/120373767</link><guid>https://blog.youkuaiyun.com/whenever5225/article/details/120373767</guid><author>whenever5225</author><pubDate>Sat, 18 Sep 2021 21:00:20 +0800</pubDate><description><![CDATA[论文信息
题目: Understanding and Generalizing Monotonic Proximity Graphs for Approximate Nearest Neighbor Search
作者: Dantong Zhu, Minjia Zhang; 于2021年7月27发表在arXiv上。
背景
理论分析基于图的ANNS算法。
为什么基于MRNG构建的近邻图算法普遍具有更好的搜索性能？
冲突结点，conflicting nodes (提升搜索性能，非常重要的一个概念！).
理论模型]]></description><category></category></item><item><title><![CDATA[A Comprehensive Survey and Experimental Comparison of Graph-Based Approximate NNS 论文简介]]></title><link>https://blog.youkuaiyun.com/whenever5225/article/details/118636608</link><guid>https://blog.youkuaiyun.com/whenever5225/article/details/118636608</guid><author>whenever5225</author><pubDate>Sat, 10 Jul 2021 16:14:49 +0800</pubDate><description><![CDATA[中文简介地址：高维数据检索：基于近邻图的近似最近邻搜索算法实验综述
全文arXiv地址：A Comprehensive Survey and Experimental Comparison of Graph-Based Approximate Nearest Neighbor Search
论文Researchgate地址：A Comprehensive Survey and Experimental Comparison of Graph-Based Approximate Nearest Neighbo]]></description><category></category></item><item><title><![CDATA[高维向量相似性搜索新趋势：AI驱动、算法优化、分布式、现代硬件]]></title><link>https://blog.youkuaiyun.com/whenever5225/article/details/118442558</link><guid>https://blog.youkuaiyun.com/whenever5225/article/details/118442558</guid><author>whenever5225</author><pubDate>Sat, 03 Jul 2021 17:14:04 +0800</pubDate><description><![CDATA[概览
本文是参考文献[1]的简介，这篇论文是一篇tutorial（ICDE2021），主要介绍一些高维相似性搜索的数据科学应用，调查了最近的一些方法，讨论了AI驱动的、渐进式的以及分布式的相似性搜索。
应用
自动实体解析、数据发现、电力需求分析、推荐系统、聚类、划分、异常检测、生物信息、计算机视觉、安防、金融、药物等。（注：各应用相关文献可参考论文原文，参考文献[1]）
洞察
渐进搜索（progressive search）
这个概念我还是第一次看到，不过渐进搜索所表达的思想在之前的一些文献中已有体现。通俗]]></description><category></category></item><item><title><![CDATA[几种 Proximity Graphs 的单调性分析]]></title><link>https://blog.youkuaiyun.com/whenever5225/article/details/112698710</link><guid>https://blog.youkuaiyun.com/whenever5225/article/details/112698710</guid><author>whenever5225</author><pubDate>Sat, 16 Jan 2021 12:17:42 +0800</pubDate><description><![CDATA[引言
最近，基于近邻图的近似最近邻搜索算法（ANNS）取得了最优的效率和精度权衡。在图索引上，路径的单调性对相关ANNS算法的搜索性能起着至关重要的影响。几种当前最优的ANNS算法比如HNSW，NSG普遍能使搜索路径尽可能的单调递减，从而避免由于“绕远路”而降低搜索效率。本文介绍的几种proximity graphs是这些ANNS算法的基础，与当前的实用算法相比，这些proximity graphs有着严格的形式化定义，这给理论分析相关性质带来便利，从而也给实用的ANNS算法提供理论保证和优化方向。接下来，]]></description><category></category></item><item><title><![CDATA[在centos 6.5上离线升级gcc及make编译遇到的一些错误]]></title><link>https://blog.youkuaiyun.com/whenever5225/article/details/109695569</link><guid>https://blog.youkuaiyun.com/whenever5225/article/details/109695569</guid><author>whenever5225</author><pubDate>Sat, 14 Nov 2020 20:03:57 +0800</pubDate><description><![CDATA[依赖安装
安装gcc之前一定要先把一些依赖安装好，这里需要先安装gmp，mpfr，mpc三个依赖，如果是离线安装的话，需要在可以联网的地方先下载好（下载地址），编译安装过程可以参考这里（注意：这三个依赖之间也存在依赖关系，安装顺序不能错）。
新版本的gcc需要用到isl工具，否则编译项目时可能会报出找不到libisl.so.15错误。离线安装的话，下载地址，可参考这里安装。
安装gcc
根据自己需要安装的版本下载gcc，具体下载安装过程可参考这里，需要注意的是，在配置的时候根据自己的需要配置，比如，自己的项]]></description><category></category></item><item><title><![CDATA[导航小世界图上实现有标签过滤约束的近似最近邻搜索]]></title><link>https://blog.youkuaiyun.com/whenever5225/article/details/109276903</link><guid>https://blog.youkuaiyun.com/whenever5225/article/details/109276903</guid><author>whenever5225</author><pubDate>Sun, 25 Oct 2020 18:34:09 +0800</pubDate><description><![CDATA[论文题目
Multiattribute Approximate Nearest Neighbor Search Based on Navigable Small World Graph
相关信息
作者与单位
Xiaoliang Xu | Chang Li | Yuxiang Wang | Yixing Xia; Hangzhou Dianzi University
出处与时间
Concurrency and Computation: Practice and Experience; 2020
作者拟解决的主]]></description><category></category></item><item><title><![CDATA[免密登录远程服务器（适用于命令窗口和VScode）]]></title><link>https://blog.youkuaiyun.com/whenever5225/article/details/109124967</link><guid>https://blog.youkuaiyun.com/whenever5225/article/details/109124967</guid><author>whenever5225</author><pubDate>Fri, 16 Oct 2020 21:11:56 +0800</pubDate><description><![CDATA[SSH key
若还未生成，可按此方式生成（参考：入口）。我之前已经生成过，mac可通过下面的命令查找。
open ~/.ssh

公钥传到服务器
ssh-copy-id -i ~/.ssh/id_rsa.pub user@remote-host

再次登录服务器
如果显示让输入passphrase for key，相当于还是要输入一次密码。
Enter passphrase for key '/xxx/xxx/.ssh/id_rsa':

解决方案，输入下面命令，成功解决问题。
ssh-add -K /x]]></description><category></category></item><item><title><![CDATA[根据查询需求自适应k值构建近邻图｜日本电信电话株式会社｜SIGKDD CCF A类会议]]></title><link>https://blog.youkuaiyun.com/whenever5225/article/details/108023179</link><guid>https://blog.youkuaiyun.com/whenever5225/article/details/108023179</guid><author>whenever5225</author><pubDate>Sat, 15 Aug 2020 15:27:18 +0800</pubDate><description><![CDATA[博客地址：mzwang.top
论文题目
Fast approximate similarity search based on degree-reduced neighborhood graphs
相关信息
作者与单位
Kazuo Aoyama
NTT Communication Science Laboratories, NTT Corporation 2-4, Hikaridai, Seika-cho,
Soraku-gun, Kyoto, 619-0237, Japan
aoyama.kazuo@l]]></description><category></category></item></channel></rss>