Top K 问题模板

最新推荐文章于 2025-10-18 00:10:24 发布
原创 最新推荐文章于 2025-10-18 00:10:24 发布 · 1k 阅读 · 24 ·
CC 4.0 BY-SA版权
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
文章标签：

#TopK问题

☆* o(≧▽≦)o *☆嗨~我是小奥🍹
📄📄📄个人博客：小奥的博客
📄📄📄优快云：个人优快云
📙📙📙Github：传送门
📅📅📅面经分享（牛客主页）：传送门
🍹文章作者技术和水平有限，如果文中出现错误，希望大家多多指正！
📜 如果觉得内容还不错，欢迎点赞收藏关注哟！ ❤️

文章目录

Top K问题模板

10亿个数中如何高效地找到最大的一个数

分而治之：将10亿个数据分成1000份，每份100万个数据，找到每份数据中最大的那个数据，最后在剩下的1000个数据里面找出最大的数据。 从100万个数据遍历选择最大的数，此方法需要每次的内存空间为10^6*4=4MB，一共需要1000次这样的比较。

10亿个数中如何高效地找到最大的第 K 个数

对于top K类问题，通常比较好的方案是分治+hash+小顶堆：

  • 先将数据集按照Hash方法分解成多个小数据集
  • 然后用小顶堆求出每个数据集中最大的K个数
  • 最后在所有top K中求出最终的top K。

Top K常用的方法

  • 快排+选择排序：排序后的集合中进行查找
    • 时间复杂度： 时间复杂度为O(NlogN)
    • 缺点：需要比较大的内存，且效率低
  • 局部淘汰：取前K个元素并排序，然后依次扫描剩余的元素，插入到排好序的序列中(二分查找)，并淘汰最小值。
    • 时间复杂度： 时间复杂度为O(NlogK) (logK为二分查找的复杂度)。
  • 分治法：将10亿个数据分成1000份，每份100万个数据，找到每份数据中最大的K个，最后在剩下的1000*K个数据里面找出最大的K个，100万个数据里面查找最大的K个数据可以使用Partition的方法
    • 时间复杂度： 时间复杂度为O(N+1000*K)
  • Hash法： 如果这10亿个数里面有很多重复的数，先通过Hash法，把这10亿个数字去重复，这样如果重复率很高的话，会减少很大的内存用量，从而缩小运算空间，然后通过分治法或最小堆法查找最大的K个数。
  • 小顶堆： 首先读入前K个数来创建大小为K的小顶堆，建堆的时间复杂度为O(K)，然后遍历后续的数字，并于堆顶（最小）数字进行比较。如果比最小的数小，则继续读取后续数字；如果比堆顶数字大，则替换堆顶元素并重新调整堆为最小堆。
    • 时间复杂度： 时间复杂度为O(NlogK)
  • Trie树： 如果是从10亿个重复比较多的单词找高频词汇，数据集按照Hash方法分解成多个小数据集，然后使用Trie树统计每个小数据集中的query词频，之后用小顶堆求出每个数据集中出现频率最高的前K个数，最后在所有top K中求出最终的top K。
    • 适用范围：数据量大，重复多，但是数据种类小可以放入内存
    • 时间复杂度：O(Len*N)，N为字符串的个数，Len为字符串长度
  • 桶排序：一个数据表分割成许多buckets，然后每个bucket各自排序，或用不同的排序算法，或者递归的使用bucket sort算法。也是典型的divide-and-conquer分而治之的策略。
    • 使用范围：如果已知了数据的范围，那么可以划分合适大小的桶，直接借用桶排序的思路
    • 时间复杂度：O(N*logM)，N 为待排序的元素的个数，M为桶的个数
  • 计数排序：计数排序其实是桶排序的一种特殊情况。当要排序的 n 个数据，所处的范围并不大的时候，比如最大值是 k，我们就可以把数据划分成 k 个桶。每个桶内的数据值都是相同的，省掉了桶内排序的时间。
    • 适用范围：只能用在数据范围不大的场景
    • 时间复杂度：O(N)
  • 基数排序：将整数按位数切割成不同的数字，然后按每个位数分别比较。
    • 适用范围：可以对字符串类型的关键字进行排序。
    • 时间复杂度： O(N*M)，M为要排序的数据的位数
【Leetcode】大神总结的所有TopK问题模板（基于快速排序）
YaoYee_21的博客
08-04 1181
整个数组找基准正确位置，所有元素比基准值小的摆放在基准前面，所有元素比基准值大的摆在基准的后面。
优先级队列解决top-K问题(C语言实现)
wangeil007的博客
07-22 834
对于数组{10, 4, 3, 6, 5, 8, 9, 3}，希望求第k (k = 3) 大的数据。 如果用传统的思路解决这个问题：先用快速排序对整个数组排序。然后取第K个元素，这种方式的时间复杂度为O(N * logN)。如果n非常大，对整个数组排序需要使用外部排序 (内存中放不下，需要硬盘辅助排序)。如果使用大小为k的小顶堆，就有可能在内存中完成这个任务。也就是说，这个方法不仅可以降低时间复杂度，还可以降低内存的消耗。 这里用小顶堆的方式进行计算：取前面3个元素，建立一个小顶堆，然后遍历其它元素，如果某个
TopK问题三种方法总结
LynnWonder
02-07 1946
TopK问题三种方法总结 文章目录TopK问题三种方法总结what's topK?堆解题步骤具体实现summaryquickSelect解题步骤具体实现summary二分法解题步骤具体实现summaryleetcode-719-找出第 k 小的距离对leetcode-378-有序矩阵中第K小的元素 references: Top K问题的两种解决思路 TOP-K问题的几种解法 Top-K问题的几种...
算法刷题:经典TopK问题整理
qjyws的博客
09-12 1080
算法经典TopK问题的整理
堆与优先队列：Top K问题的完整攻略
比较是偷走幸福的小偷
10-18 4277
堆（Heap）和优先队列（Priority Queue）是处理Top K问题的利器。很多人搞不清楚什么时候用大根堆，什么时候用小根堆求前K大用小根堆，求前K小用大根堆。我并没有能力让你看完就精通所有堆的应用，我只是想让你理解堆的结构、大小根堆的选择技巧、以及Top K问题的通用模板。从"找数组第K大元素"问题出发，剖析堆的核心结构与Top K问题的解题技巧。通过大根堆与小根堆的对比、堆调整的图解演示、以及数据流中位数的双堆解法，揭秘优先队列的巧妙应用。
pytorch实现topk剪枝
随缘分享
12-25 3237
pytorch框架下实现top-k剪枝 这篇博客，以MNIST数据集为例，对LSTM的权重矩阵实现top-k剪枝（7，2），介绍了如何在pytorch框架下实现top-k剪枝。 文章目录pytorch框架下实现top-k剪枝一、top-k剪枝二、生成掩模（mask）矩阵三.定义剪枝函数总结参考文献 一、top-k剪枝 LSTM常被应用自然语言处理（NLP）相关的应用，由于引入了memory cell和gate unit，其含有大量参数，即使被剪枝90%的参数，仍然不会给模型带来太大的精度损失，较多的冗余
C++海量数据处理 - 查重和top k问题的代码分析，Bloom Filter布隆过滤器
大秦坑王的专栏
03-27 3227
C++海量数据处理，查重和top k问题代码，bloom filter布隆过滤器详解
纯C++11标准写类topk算法(不稳定排序)类模板
10km的专栏
11-20 1555
topk排序是指从N个数据中找出最大/小的前K个数据,并以升/降序排列,本文讨论的topk与这个定义稍有差别(所以叫类topk算法): 从N个数据中将临时计算结果t满足阀值T(大于或小于T)的前K个数据找出,并以升/降序排列(不满足阀值的t不允许占用内存)。 比如，从今年中考成绩中挑出总成绩(总成绩是根据各科成绩加总临时计算的结果，不允许保存)大于520分的前20个学生。如果有50个大于5
【Prometheus + Grafana】 使用 topk 在 grafana 绘制 前 n 个时间序列
热门推荐
星辰大海
03-05 1万+
文章目录项目场景：问题描述：原因分析：解决方案：设置bps，在模板中使用变量，即 Variables使用 bps 变量和prometheus 的正则表达式查询优化界面 项目场景： 获取流量 bps 前10位的 时间序列 问题描述： 在grafana 中使用 topk(10, bps) 语句，结果得到如图信息，并且可以看到曲线有断层，不连贯。 期望是仅展示前10条，并且曲线是连贯的。 原因分析： 从Grafana 5.3.0开始，有一个功能允许在一段时间内正确绘制前N个序列的图形。 query
字节一面：Top-p 和 Top-k 有啥区别。。。
sjkflw121150的博客
07-01 861
特性Top-k候选词集大小固定（始终是 k 个）动态（由概率分布决定）控制逻辑只看排名看累计概率灵活性中高实现复杂度简单稍复杂多样性中高重复率/模板感较高较低典型参数k = 40~100Top-k 更像是你从固定数量的“好词”里选；Top-p 则更像是你只从“可信概率区间”中选；它们都是为了解决“不要太死板，又别太放飞”这个生成难题。写在最后大模型生成是一个“采样科学”，不是玄学也不是拍脑袋。Top-k 和 Top-p 就是其中最核心的两把“筛子”。
A*求K短路模板（有注释，c++实现）
11-16
本文将详细介绍一个基于C++语言实现的A*算法求解K短路径问题的模板代码，并对该模板中的关键部分进行深入解析。该算法适用于寻找两点之间前K条最短路径的问题，特别适用于ACM竞赛等场合。 #### 核心概念与原理 在...
ACM模板(浙大)_算法竞赛_ACM模板_ACM_源码
10-04
堆是一种特殊的树形数据结构，可用于实现优先队列，是解决Top-K问题的关键。 其次，搜索算法如二分查找和广度优先搜索(BFS)、深度优先搜索(DFS)在解决查找和遍历问题时十分有效。二分查找能高效地在有序数组中定位...
算法与数据结构（二十五）TopK问题：基于快排的Python模板
Dby_freedom的博客
12-04 786
首先，先写partition模板。
yubaolee_OpenAuthNet_25456_1764964690631.zip
12-07
yubaolee_OpenAuthNet_25456_1764964690631.zip
基于PID控制器和电流控制器的电池充电比较研究（Matlab代码实现）
12-07
基于PID控制器和电流控制器的电池充电比较研究（Matlab代码实现）内容概要：本文主要围绕《基于PID控制器和电流控制器的电池充电比较研究（Matlab代码实现）》展开，介绍了利用Matlab进行电池充电控制策略的仿真与比较研究。重点对比了PID控制器与电流控制器在电池充电过程中的性能表现，涵盖系统建模、控制算法设计、仿真分析及结果评估等内容，旨在为电池管理系统中的充电控制提供优化方案和技术参考。; 适合人群：具备一定自动控制理论基础和Matlab编程能力的电气工程、自动化、能源系统等相关专业的研究生、科研人员及工程技术人员。; 使用场景及目标：①用于电池管理系统中充电控制策略的设计与优化；②开展PID控制与电流控制在动态响应、稳定性、充电效率等方面的性能对比研究；③支持教学实验、科研仿真及实际工程项目中的控制器选型与验证。; 阅读建议：建议读者结合Matlab代码进行仿真实践，重点关注控制器参数设置、系统响应曲线分析及不同工况下的性能差异，同时可扩展至其他先进控制算法（如模糊控制、自适应控制）的对比研究，以深化对电池充电控制技术的理解与应用。
一个基于SpringBoot和MyBatis框架开发的用于高校或公共图书馆自习室资源智能化管理的Web应用程序系统_包含用户注册登录座位预约状态查询取消预约留言反馈及管理员对自习室.zip
12-07
一个基于SpringBoot和MyBatis框架开发的用于高校或公共图书馆自习室资源智能化管理的Web应用程序系统_包含用户注册登录座位预约状态查询取消预约留言反馈及管理员对自习室.zip
nats.swift-Swift资源
最新发布
12-08
Swift client for NATS, the cloud native messaging system.
ACM算法竞赛题解与优化技巧 练习题
12-07
ACM算法竞赛题解与优化技巧
优化调度基于改进遗传算法的公交车调度排班优化的研究与实现（Matlab代码实现）
12-07
【优化调度】基于改进遗传算法的公交车调度排班优化的研究与实现（Matlab代码实现）内容概要：本文研究基于改进遗传算法的公交车调度排班优化问题，旨在通过Matlab代码实现改进的遗传算法，解决公交系统中发车频率、车辆分配和司机排班等复杂调度难题。通过对传统遗传算法引入变异、精英保留等优化机制，提升算法收敛速度与全局搜索能力，从而获得更优的调度方案，有效降低运营成本并提高服务质量。研究涵盖了模型构建、算法设计、约束处理及仿真验证全过程，展示了智能优化算法在公共交通管理中的实际应用价值。; 适合人群：具备一定Matlab编程基础，从事智能优化、交通运输规划或运筹学相关领域的研究人员及工程技术人员。; 使用场景及目标：①解决城市公交系统的发车调度与司机排班优化问题；②学习改进遗传算法的设计思路及其在复杂组合优化问题中的实现方法；③为智能交通系统（ITS）中的调度决策提供技术支持与仿真工具。; 阅读建议：建议读者结合文中Matlab代码进行实践操作，重点关注算法改进策略与约束条件的建模方式，并可通过调整参数或引入新的优化机制进一步提升性能。
写topk的cuda代码，k用模板传入
05-13
<think>好的，用户想要用模板参数k来编写CUDA的TopK算法代码。首先，我需要回顾一下CUDA编程的基本知识，特别是模板在CUDA中的应用。模板参数在CUDA中允许我们在编译时确定某些值，这对于优化性能很有帮助，比如展开循环或者调整内存分配。 接下来，TopK算法的常见实现方法有哪些呢？通常，可以使用快速选择算法或者堆排序。但在GPU上，考虑到并行性，可能需要分块处理数据。例如，将数据分成多个块，每个块内部找出TopK元素，然后合并这些块的结果，再从中选出最终的TopK。这样可以利用GPU的并行计算能力。 然后，用户提到使用模板参数k，这意味着k在编译时是已知的。这可以带来一些优化，比如预先分配共享内存的大小，避免动态分配带来的开销。例如，如果k是模板参数，可以在内核函数中声明共享内存数组的大小为k，这样每个线程块在处理时就能高效地利用共享内存。 另外，参考用户提供的引用[1]中提到，他们使用了torch::topk()函数，并且在结果返回后进行了排序，因为结果不保证顺序。这可能意味着在CUDA内核中实现的TopK算法本身可能不排序，需要后续处理。所以在设计代码时，是否需要在内核中进行排序，或者只是选出TopK元素，后续在主机端进行排序？ 还有一个问题是，如何高效地在GPU上合并各个块的TopK结果。可能需要多次调用内核函数，或者在单个内核中进行多阶段处理。例如，首先每个线程块处理一部分数据，生成局部TopK，然后将这些局部结果传递给下一个内核，最终得到全局TopK。 考虑到模板参数k，代码结构可能包括一个模板化的内核函数，比如template <int K> __global__ void topk_kernel(...)。这样，在编译时会为不同的K生成特定的内核实例，优化性能。 另外，内存分配方面，每个线程块可能需要共享内存来存储中间结果。使用模板参数k可以确定共享内存的大小，比如extern __shared__ int shared_mem[];，然后每个块使用K * sizeof(int)的空间。或者，如果K较小，可以直接在共享内存中静态分配。 还需要考虑数据的分块处理。假设输入数组大小为N，每个块处理一个块的数据，比如每个块处理1024个元素，那么块的数量就是N/1024。每个块内部找到自己的TopK，然后将这些结果写入全局内存。接着再启动另一个内核来处理这些中间结果，最终得到全局的TopK。 在实现过程中，可能需要注意线程同步，特别是在块内进行归约或排序时。使用共享内存时，需要__syncthreads()来确保所有线程完成数据写入。 最后，代码的结构可能包括主机端的调用，根据不同的K值实例化不同的内核。例如，使用switch语句根据K的值来调用对应的模板实例，或者使用CUDA的启动宏来动态处理。 总结一下，步骤大致如下： 1. 定义模板化的CUDA内核函数，参数为K。 2. 每个线程块处理数据的一部分，使用共享内存存储局部TopK。 3. 在块内进行局部TopK的筛选，可能使用快速选择或堆排序。 4. 合并所有块的局部TopK，再次调用内核进行全局TopK筛选。 5. 主机端代码处理内存分配、内核启动和结果处理。 需要注意的细节包括共享内存的大小、线程块和网格的配置、以及多次内核调用的协调。此外，如果K值较大，可能需要调整算法以避免共享内存不足的问题。</think>以下是使用模板参数k实现的CUDA TopK算法的代码实现和解析： ### CUDA TopK算法实现（模板参数k） ```cpp template <int K> __global__ void topk_kernel(const float* input, float* output_values, int* output_indices, int n) { extern __shared__ char shared_mem[]; float* s_values = reinterpret_cast<float*>(shared_mem); int* s_indices = reinterpret_cast<int*>(&s_values[K * blockDim.y]); const int tid = threadIdx.x; const int bid = blockIdx.x; // 每个线程块处理n/blockDim.y个元素 for (int i = 0; i < K; ++i) { s_values[threadIdx.y * K + i] = -FLT_MAX; s_indices[threadIdx.y * K + i] = -1; } // 加载数据到共享内存 for (int idx = bid * blockDim.y + threadIdx.y; idx < n; idx += gridDim.x * blockDim.y) { float val = input[idx]; // 插入排序逻辑 for (int i = 0; i < K; ++i) { if (val > s_values[threadIdx.y * K + i]) { for (int j = K - 1; j > i; --j) { s_values[threadIdx.y * K + j] = s_values[threadIdx.y * K + j - 1]; s_indices[threadIdx.y * K + j] = s_indices[threadIdx.y * K + j - 1]; } s_values[threadIdx.y * K + i] = val; s_indices[threadIdx.y * K + i] = idx; break; } } } __syncthreads(); // 合并各个线程的TopK结果 // 此处可添加归并排序逻辑... } ``` ### 实现解析 1. **模板参数应用** 通过`template <int K>`声明模板参数，使得编译器能为不同的K值生成特化代码，从而优化内存访问和循环展开[^1]。 2. **共享内存分配** 使用`extern __shared__`动态分配共享内存，将前K*blockDim.y个元素用于存储值，后K*blockDim.y个元素存储索引。 3. **数据加载策略** 每个线程块处理`n/(gridDim.x * blockDim.y)`个元素，采用跨步访问模式提高内存合并访问效率。 4. **局部TopK筛选** 使用插入排序算法维护局部TopK列表，时间复杂度为$O(nK)$，当K较小时效率较高。 ### 主机端调用示例 ```cpp template <int K> void launch_topk(const float* d_input, float* d_output_values, int* d_output_indices, int n) { const int threads_per_block = 256; const int blocks = (n + threads_per_block - 1) / threads_per_block; topk_kernel<K><<<blocks, threads_per_block, 2*K*sizeof(float)*threads_per_block>>>( d_input, d_output_values, d_output_indices, n ); } ``` ### 性能优化建议 1. **使用寄存器优化** 当K较小时（如K<=32），可将TopK列表存储在寄存器中而非共享内存，减少内存访问延迟。 2. **多阶段归并** 在大规模数据场景下采用两阶段处理： ```mermaid graph TD 原始数据 --> 块内TopK筛选 --> 全局归并 --> 最终结果 ``` 3. **原子操作优化** 在全局归并阶段使用`atomicCAS`实现无锁竞争更新，可参考PyTorch的`fast_topk.cuh`实现策略[^1]。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值