An Efficient Framework for Exact Set Similarity Search using Tree Structure Indexes

ICDE 2017 论文目录与一些想法的整理 ICDE 2017 1.1 Research Session 1A: Graphs UniWalk: Unidirectional Random Walk Based Scalable SimRank Computation over Large Graph A Fast Order-Based Approach for Core Maintenance Scalable and ... 阅读详情

相似性搜索在很多方面有应用。给定许多集合的记录和一个查询,精确的集合相似性搜索的含义是从这些集合中找到一个集合和所要查询的最为相似。现存方法:filter-and-verify的框架,这种框架充分利用了invetted indexse。但是它有缺点:由于基于集合的相似性度量方法的验证复杂度较低,它们往往不能很好地权衡filter power和过滤filter cost.。
因此本文提出了了一种基于树的索引结构的相似度搜索算法。
具体细节如下:
filter cost:定义了基于哈希的排序( a hash-based ordering),将数据导入到索引结构,然后做好优化去减少filter cost。
filter power:,作者提出了一种动态算法去把数据集分成几个部分并且提出了一种多索引的框架。
实验:本文的实验在真实数据集上面的结果所表现的性能要比最新的方法好

  • 介绍
    给出了集合相似度查找的定义(给定集合中找到和所给的查询相似的集合),查询分为俩类:一种是范围一种是取前k个。所用的方法目前为止有OVERLAP、JACCARD、COSINE、DICE.文章主要是更具JACCARD这种方法展开讨论的。至于其他的基于集合的相似度搜索的方法在第8部分 讨论 中提到。
    研究了很久的集合相似度查询,有比如filter and verify 的这种框架。框架实现的具体细节是这样的:在filter阶段,给每一个集合产生signatures,将signature组织到翻转的索引中。在verify阶段,verify候选集得到最终的结果。这种也方法应用在了具有编辑距离限制的字符串的相似度查询领域,但是也有缺点。比如计算俩个字符之间的编辑距离的复杂度是大O方。所以需要设计出复合型的filter去提高filter power。但是基于集合相似性的方法的复杂度是大O。所以所要在filter power和filter cost之间balance。同时filter and verfiy会导致内存过大。前人的Bed-tree [24] and PBI [11]是俩种B+树的方法去支持字符串相似度查询。但是这俩个方法仅仅支持编辑距离,不可以应用在集合相似度的查询问题。(真的吗?)
    作者提出了了一种基于树的框架去解决精确的集合相似度搜索。提出这种框架的目的是为了减少开销过大的filter cost并且保持filter power。作者使用B+树状结构作为索引结构。作者为集合记录定义一个全局顺序,以便有效地将集合导入索引中。对于数据集中的每一个集合记录x,把x当做一种向量,并且把它映射到一个整数以此来表示在全局顺序中的相对位置。在索引上执行相似性搜索时,我们只需要根据给定的查询在全局顺序中定位下界和上界,并对树索引执行范围查询。那么只有树的高度会影响filter cost,同时filter cost是独立于数据集中的平均记录的长度的。由于具有代表性的向量有很高的维度,所以查询操作开销很大。因此作者设计出了一种bucket-based的方法去减少向量维度来改善查询的性能。由于记录通常不是均匀分布在空间中,我们还设计了一种动态算法,根据共享令牌(shared takens)的数量将数据收集划分为几个集群.这样就可以将“相似”记录分组在一起,提高剪枝能力.
    文章贡献:
  • 设计了树结构应用于精准的集合相似度搜索
  • 定义了bucket-based 顺序将集合记录放入到索引结构中。我们还设计了这种有效的表示,以提高整体性能
  • 提出了动态算法去吧数据拆分成几个聚类,设计了多索引结构进一步提高了修剪的能力
  • 对于真实数据集进行了宽泛的实验。实验结果表明作者所提出的方法比最新的top-k和range方法要好。

文章组织结构:
Section 2中给出了标准的文章定义,讨论了相关工作;
Section 3介绍了索引结构和构建索引的分批处理的算法;
Section 4提出了一种集合记录和降维技术的全局顺序,以降低filter cost。
Section 5设计了中将数据集合拆分的动态算法,并且在这些数据集合上面建立了多索引。
Section 6讨论了所做的工作
Section 7展现了实验的结果
Sectiion 8 总结

  1. 前言
    A.

  2. 基于树的索引结构

  3. 优化相对排序

  4. 多索引结构

  5. 讨论

  6. 评估

  7. 总结

【更新】社团检测(community detection)相关文献整理(2015-2018) 刚刚开始接触community detection相关的内容,在找资料和了解相关定义、算法的过程中发现自己的记录很混乱,所以借此记录下自己的一些学习过程,希望可以一起学习交流。首先咱们来讨论一下文献查找,本文主要列出了机器学习、数据挖掘和人工智能领域的相关文献,我是直接搜索这些领域的相关会议,然后找到accepted papers,利用关键词(community)进行文章的查找和整理,当然也可以直接 阅读详情

相关推荐

【信息科学与工程学】【数据中心】【智算中心】【容灾备份】 第二十五篇 智算中心业务容灾-第一部分

设计原则具体实施关键技术监控指标恢复策略测试验证冗余设计​1. 多副本数据存储2. 多路径网络连接3. 多活计算资源4. 多实例服务部署1. 数据复制技术2. 负载均衡技术3. 集群管理技术4. 容器编排技术1. 副本健康状态2. 路径可用性3. 资源利用率4. 服务实例状态1. 自动故障转移2. 数据一致性修复3. 资源重新调度4. 服务重新注册1. 故障注入测试2. 切换演练3. 性能压测4. 数据一致性验证自动化恢复​。

weixin_49199313的博客 1276

线下沙龙 × 报名 | “大规模数据存储与挖掘”博士生研讨会

每年进入11月周围的气氛就变得莫名紧张各位是不是已经开始全力冲刺年底的实验和论文了?当然是今年的双十一啦!战队点赞了嘛?签到领能量了嘛?当双十一撞上年底的实验和论文小编忍...

Paper weekly 1233

VLOOKUP_fixed.py

VLOOKUP_fixed.py

Set-based Similarity Search for Time Series

这篇论文是关于时间序列相似性搜索的,所谓的时间序列也就是指,与时间相关的序列,比如说一个人的血压,他每时每刻都会有或多或少的变化,随着时间的延续,就形成了一组血压序列。 时间序列相似性搜索的应用有很多,如医学方面,人在某段时间的各种生理特征值都可以作为时间序列,根据一个人的序列值和已经诊断的病例的序列值比较,可以大致判断人的疾病;类似的可以用来做设备故障的检测;再有就是语音识别。 一般常用的序

Super__Yang的博客 891

D打卡签到,蓝牙中继,广播信号模拟器

模拟WIFI或蓝牙,有如下4种运行模式 1、WIFI模式:指定SSID、BSSID名称等,模拟WIFI,供设备连接。 2、蓝牙静态模式:指定MAC地址,广播固定的RAW数据。 3、蓝牙动态主机模式:扫描周围蓝牙设备,获取指定MAC地址的蓝牙及其RAW数据,实时发送至Cloud云端,可以设定时间段,只在设定的时间段内发送。 4、蓝牙动态从机模式:指定MAC地址,从Cloud云端获取动态主机模式实时上传的该MAC地址的RAW数据,并广播RAW数据。 准备工作: 1、板子:选择ESP32C3或ESP32C3 Supermini 2、nRF Connect手机app:用于扫描获取待模拟蓝牙设备的MAC和RAW数据。 Wifi分析仪或WiFi魔盒手机APP:用于扫描获取待模拟WIFI设备的SSID和BSSID。 3、可使用官方flash_download_tool_3.9.11工具来固件烧录。 使用说明: 上述完成后,设备首次上电,RESET一侧的指示灯会常亮,可以把它理解成电源指示灯; BOOT一侧的灯会亮,该灯常亮,表示设备开启了AP模式,此时设备会发射一个WIFI信号源,名称为ESPWIFI_AP,密码为12345678,手机或电脑连接该WIFI,浏览器输入192.168.4.1,进入设备的配置页面,进行相应的配置,其中动态主机模式和动态从机模式的SSID、Pwd 及要模拟的蓝牙MAC地址。配置完成并保存后,会重启,重启后设备会按照保存的配置运行。若下次要修改设备配置,可以长按BOOT按键,等待BOOT一侧的灯常亮,即进入AP模式,再按照上述流程配置即可。 仅用于蓝牙设备的开发与调试,请勿用于签到等违法违纪用途。

YOLO26算法心电图十二导联目标检测+训练好的模型+368张数据集+pyqt可视化界面.zip

附训练好的 YOLO 权重与 PyQt 可视化检测界面,页面底部含可视化效果预览,毕设/课设开箱即用。 【数据集概况】 · 检测类别(中文):[导联I(I), 导联II(II), 导联III(III), 胸导联V1(V1), 胸导联V2(V2), 胸导联V3(V3), 胸导联V4(V4), 胸导联V5(V5), 胸导联V6(V6), 加压肢体导联aVF(aVF), 加压肢体导联aVL(aVL), 加压肢体导联aVR(aVR)] · 训练集:313 张 · 验证集:37 张 · 测试集:18 张 · 总计:368 张 该数据集聚焦于临床心电图信号的精准识别与定位,其核心检测目标为标准12导联心电图中的各个独立导联波形区域,涵盖肢体导联(I、II、III)与加压肢体导联(aVR、aVL、aVF),以及胸前导联(V1至V6),适用于心电图自动分析系统中对各导联位置的快速准确标注与分类。数据采集场景真实还原了医院心电图室或急诊监护环境下的标准心电图记录纸,波形清晰、基线稳定,具有高度临床参考价值。... 【训练曲线与评估图】 【模型训练配置】 参数 | 值 模型 | yolo26n 训练轮数 | 100 epochs 输入尺寸 | 640x640 批次大小 | 24 优化器 | auto 初始学习率 | 0.01 训练设备 【关键指标汇总】 训练了 57 个 epoch,最终轮指标: 指标 | 数值 mAP50 | **0.9708** mAP50-95 | 0.6344 Precision | 0.8990 Recall | 0.9191 train/box_loss | 1.2231 train/cls_loss | 0.9703 val/box_loss | 1.2779 val/cls_loss | 0.... 使用场景:毕业设计、课程设计、深度学习入门、工业场景落地验证。

[查询和过滤]3. 如何在Django ORM中进行AND查询?

If you are using django.contrib.auth, you will have a table called auth_user. It will have fields as username, first_name, last_name and more. 如果您正在使用django.contrib.auth,将有一个名为auth_user。它将拥有领域usernam...

冰冻三尺非一日之寒 2770

企业级AI助手平台 开箱即用的全栈AI平台,支持多智能体协同、Supervisor模式编排、多种决策模式、RAG技术和流程编排能力 支持多厂商大模型统一接入与管理,安全可控的企业知识库与高精度检索优化

企业级AI应用开发框架,支持多厂商大模型统一接入与管理,安全可控的企业知识库与高精度检索优化能力,提供可视化流程编排、自主决策智能体与多智能体协同调度,兼容主流 Agent Skill 协议,帮助企业与开发者零门槛快速构建安全、高效、可落地的AI智能体应用与行业解决方案。

A Learned Index for Exact Similarity Search in Metric Spaces

索引是在大型数据库中支持高效查询处理的一种有效方法。近年来,学习索引的概念被积极探索,以机器学习模型取代或补充传统的索引结构,以降低存储和搜索成本。然而,在高维度量空间中,精确高效的相似度查询处理仍然是一个开放的挑战。本文提出了一种新的索引方法LIMS,该方法利用数据聚类和基于数据中心的数据转换技术建立学习索引,以便在度量空间中进行高效的相似度查询处理。底层数据被划分为集群,以便每个集群遵循相对统一的数据分布。数据再分配是通过为每个集群使用少量的支点来实现的。相似的数据被映射到进化区域,映射的值是完全序数的

小蚂蚁与大象 344

Java低代码, 轻量级, 支持国产化 国密 AI大模型MCP服务 商业免费 包括核心模块如:组织机构、角色用户、权限授权、数据权限、内容管理、工作流、Spring Cloud 微服务、AI大模型等

Java低代码, 轻量级, 支持国产化 国密 AI大模型MCP服务 商业免费 Spring Boot, MyBatis, Flowable, TypeScript, Vue, Antdv, 包括核心模块如:组织机构、角色用户、权限授权、数据权限、内容管理、工作流、Spring Cloud 微服务、AI大模型、代码生成器等

文创媒体电商行业智算中心(AIDC)建设规划方案.pptx

文创媒体电商行业智算中心(AIDC)建设规划方案.pptx

图像检索:Spreading Vectors for Similarity Search

Thinking in Reverse. Spreading Vectors for Similarity Search是小白菜崇拜的Matthijs Douze和Herve Jegou的作品,发表于ICLR 2019,是一篇对思维方法非常有启发作用的paper,可能会成为利用DNN构建索引方面的经典。这样一篇因为思维的光辉而动人的paper,小白菜很乐意成为它的布道者,并希望借自己的绵薄之...

深藏功与名 8945

集团企业数字化转型AI智能体平台规划及场景应用方案.pptx

集团企业数字化转型AI智能体平台规划及场景应用方案.pptx

SIGMOD论文研读—Overlap Set Similarity Joins with Theoretical Guarantees

前言:SIGMOD上一篇有关集合相似性的算法论文,本文仅是笔者对于论文的解读,欢迎读者来和笔者探讨、指出笔者的错误 论文标题:Overlap Set Similarity Joins with Theoretical Guarantees 作者:Dong Deng,Yufei Tao,Guoliang Li 刊物:SIGMOD 时间:June , 2018 出处链接:https://dl.acm.org/doi/abs/10.1145/3183713.3183748 1.论文摘要 该论文研究了具有重叠约束的

南风央的博客 1169

基于动态窗口法DWA的机器人路径规划研究(Matlab代码实现)

内容概要:本文系统研究了基于动态窗口法(DWA)的机器人局部路径规划算法,深入剖析其在动态环境中实现自主避障与实时轨迹优化的核心机制。文章详细阐述了DWA算法的速度空间采样策略、轨迹预测模型、动力学约束处理及多目标代价函数的设计原理,并通过构建完整的Matlab仿真框架验证算法有效性。结合典型场景的仿真实验,展示了机器人在复杂障碍物环境下如何实时生成安全、平滑且符合运动学约束的最优路径,充分体现了DWA在移动机器人导航中的实用性与鲁棒性。; 适合人群:具备机器人运动规划基础知识和Matlab编程能力,从事智能移动机器人、自动驾驶或服务机器人研发的研究生、科研人员及工程技术人员。; 使用场景及目标:①深入理解DWA算法的理论基础与实现细节;②掌握机器人局部路径规划的仿真实现方法;③为实际机器人系统的导航模块开发提供可复用的算法原型与代码参考;④作为进一步研究高级导航算法(如TEB、MPC)的技术基础。; 阅读建议:建议结合提供的Matlab代码逐模块分析与调试,重点关注速度采样、轨迹积分、障碍物距离计算及代价评估等关键环节,通过调整参数在不同地图环境中进行对比实验,以深刻把握算法性能与参数之间的关系,进而提升对实时路径规划系统设计的理解与应用能力。

【轴承故障诊断】用于轴承故障诊断的集中时频分析研究(Matlab代码实现)

内容概要:本文系统研究了用于轴承故障诊断的集中时频分析技术,重点解决了传统时频分析方法在处理非平稳信号时存在的能量分散与分辨率不足等问题。通过引入集中时频分析方法,能够有效聚焦信号能量,精确提取轴承故障特征频率,提升故障识别的准确性与时效性。文章详细阐述了该方法的理论基础,并结合仿真信号与实际实验数据验证其优越性能,同时提供了完整的Matlab代码实现流程,涵盖信号预处理、时频变换、参数优化及结果可视化等环节,便于读者复现与拓展应用。; 适合人群:具备一定信号处理理论基础和Matlab编程能力的研究生、科研人员,以及从事机械设备状态监测、故障诊断与预测性维护工作的工程技术人员。; 使用场景及目标:①应用于电机、风机、齿轮箱等旋转机械的早期轴承故障检测,实现故障预警;②提升工业设备运维系统的智能化水平,支撑预测性维护体系构建;③作为高校或研究机构在信号处理、机械故障诊断等课程中的教学案例与实践素材。; 阅读建议:建议读者结合文中提供的Matlab代码逐段运行与调试,深入理解集中时频分布的生成机制及其关键参数(如核函数选择、平滑窗口大小)对诊断效果的影响,并尝试将其应用于其他类型的机械故障信号分析中,开展对比研究以深化对该方法适用性的认识。

1063. Set Similarity 解析

参考了 http://blog.youkuaiyun.com/u014646950/article/details/47608823 的做法 刚开始做的时候最后一个测试点总是超时。 应该直接把重复的都去除掉,用set自带的查找去完成(效率高),没找到会返回结尾来判定是否找到。 #include #include #include #include #include #include #inc

sheepyWYY的博客 835

MuMu模拟器过检测实战:从硬件伪装到API欺骗的完整避坑指南

本文详细介绍了MuMu模拟器过检测的实战技术,从硬件伪装到API欺骗的全方位解决方案。通过修改CPU/GPU信息、内存分布、系统属性和行为模拟等关键技术,帮助用户有效绕过现代应用的模拟器检测机制,提升模拟器的隐蔽性和稳定性。

xxx12的博客 1384

Set Similarity

问题 A: Set Similarity (25) 时间限制: 1 Sec 内存限制: 32 MB 提交: 292 解决: 126 [提交][状态][讨论版][命题人:外部导入] 题目描述 Given two sets of integers, the similarity of the sets is defined to be Nc/Nt*100%, where Nc is the num...

qq_35966478的博客 333

Git Worktree + Claude Code:多终端并发开发完全实战

深入讲解如何使用 Git Worktree 配合多终端 Claude Code 实现并发开发,通过实战案例展示如何在 Android 开发中提升 2-3 倍效率,彻底告别等待 AI 的问题。

Cheson的专栏 1202

用Python手把手教你实现一个多层感知机(MLP)——从理论到代码实战

本文详细介绍了如何使用Python和Theano库从零开始实现多层感知机(MLP),涵盖从核心原理到代码实战的全过程。通过构建隐藏层、输出层和完整MLP模型,结合权重初始化、激活函数选择和训练技巧,帮助开发者深入理解神经网络工作机制,并应用于实际机器学习任务。

web39explorer的博客 970
上一篇: NED:An Inter-Graph Node Metric Based on Edit Distance
下一篇: 论文中的定理(Theorem)、引理(Lemma)、推论(Corollary)
RunningBComeOn
博客等级 码龄10年 133粉丝 161原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值