UVa 679 Dropping Balls 下落的小球

本文介绍了一道关于二叉树的小球下落模拟题目。在一个深度为D的二叉树中,所有叶子节点深度相同并按序编号。通过模拟开关状态变化,计算指定数量的小球依次从根节点下落后的最终位置。文章提供了实现思路及C++代码。

题目描述:

有一棵二叉树,最大深度为D,且所有叶子的深度都相同。所有叶子从上到下从左到右编号为1,2,3……2^D-1。在结点1处放一个小球,它会往下落。每个内结点上都有一个开关,初始全部关闭,当每次有小球落到一个开关上时,状态都会改变。当小球到达一个内结点时,如果该结点上的开关关闭,则往左走,否则往右走,直到走到叶子结点,如图所示。


一些小球从结点1处依次下落,最后一个小球会落到那里呢?输入叶子的深度D和小球的个数I,输出第I个小球最后所在的叶子编号。假设I不超过整棵树的叶子个数。D<=20。输出最多包含1000组数据。


样例输入:

4   2

3   4

10   1

2   2

8   128

16   12345


样例输出:

12

7

512

3

255

36358



思路:这是紫书上二叉树的开篇题。作为初学者(当然包括我)有几点需要注意:

    1.结点k的左子结点为2k,右为2k+1.

    2.有2^d个结点的完全二叉树(d为高度),最大结点数为    2^d-1,最大结点编号为2^d-1.

用s数组模拟开关,每输入一组数据初始化为关闭一次。出界前叶子的编号为出界时所在节点的1/2.

二叉树遍历。


代码:

#include<iostream>
#include<cstdio>
#include<cstring>
#include<algorithm>
#include<cmath>

#define loop( i, a, b ) for( int i = a; i < b; i++ )
#define fill( x ) memset( x, 0, sizeof( x ) )
#define maxd  20

using namespace std;

int n, D, T;
int s[1<<maxd];

int main() {
//	scanf( "%d", &n );
	scanf( "%d%d", &D, &T ); 
	fill( s );	//开关。
	int k, n = ( 1 << D ) - 1;	//n是最大结点编号。
	loop( i, 0, T ) {	//连续让小球落下。
		k = 1;
		for(;;) {
			s[k] = !s[k];
			k = s[k] ? k * 2 : k * 2 + 1;	//根据开关状态选择下落方向。
			if( k > n )	break;	//出界。
		}
	}
	printf( "%d\n", k / 2 );
	return 0;
}

KV Cache Dropping 是一种用于优化大语言模型(LLM)推理过程中内存使用的技术,特别是在处理长序列时减少KV Cache(Key-Value Cache)的存储开销。其核心思想是通过选择性地丢弃(drop)部分KV对,以降低内存占用并提升推理效率,同时尽量不影响模型输出的质量。 ### KV Cache Dropping 的技术原理 在自回归生成任务中,KV Cache 用于存储每个已生成 token 对应的 Key 和 Value 向量,以便在后续的 Attention 计算中快速获取历史信息。随着生成序列的增长,KV Cache 的内存占用也随之线性增长。KV Cache Dropping 通过以下方式缓解这一问题: 1. **基于注意力机制的冗余性**:在实际生成过程中,某些历史 token 对当前 token 的预测影响较小,这些 token 对应的 KV 对可以被视为冗余。通过识别并丢弃这些冗余的 KV 对,可以在不显著影响输出质量的前提下减少内存消耗。 2. **动态筛选机制**:一些 Dropping 策略会根据当前 token 与历史 token 的相关性动态决定是否保留某个 KV 对。例如,通过计算 Query 向量与 Key 向量之间的相似度,若相似度低于一定阈值,则认为该 KV 对对当前 Attention 计算贡献较小,从而选择丢弃。 3. **静态策略**:某些方法采用固定的策略,例如每隔一定步数丢弃部分 KV 对,或者仅保留最近的 N 个 token 的 KV 对。 ### 应用场景 KV Cache Dropping 主要适用于以下几种场景: - **长文本生成任务**:在生成较长文本(如文章、对话等)时,KV Cache 的内存占用会显著增加。Dropping 技术可以有效控制内存使用,使模型在有限硬件资源下仍能处理长序列。 - **边缘设备推理**:在资源受限的设备(如移动设备或嵌入式系统)上部署大语言模型时,内存优化尤为重要。KV Cache Dropping 可以帮助降低内存需求,提高推理效率。 - **实时推理服务**:在需要低延迟的推理服务中,减少 KV Cache 的大小可以加快 Attention 计算,从而提升整体响应速度。 ### 示例代码 以下是一个简化的 KV Cache Dropping 实现逻辑,假设我们使用基于相似度的动态筛选策略: ```python import torch import torch.nn.functional as F def drop_kv_cache(query, key, value, threshold=0.5): """ 根据Query和Key之间的相似度决定是否丢弃部分KV对。 :param query: 当前Query向量 (batch_size, head_num, seq_len, dim) :param key: 历史Key向量 (batch_size, head_num, seq_len, dim) :param value: 历史Value向量 (batch_size, head_num, seq_len, dim) :param threshold: 相似度阈值 :return: 经过Drop后的Key和Value """ # 计算Query与Key之间的相似度(点积) similarity = torch.matmul(query, key.transpose(-2, -1)) # (batch_size, head_num, seq_len, seq_len) # 取最后一个Query与其他Key的相似度 last_similarity = similarity[:, :, -1, :] # (batch_size, head_num, seq_len) # 计算平均相似度 avg_similarity = last_similarity.mean(dim=1) # (batch_size, seq_len) # 判断是否保留每个KV对 mask = avg_similarity > threshold # 应用mask,保留符合条件的KV对 new_key = key[:, :, mask, :] new_value = value[:, :, mask, :] return new_key, new_value ``` ### 相关问题 1. KV Cache Dropping 技术相比其他 KV Cache 优化方法有哪些优势? 2. 如何评估 KV Cache Dropping 对生成质量的影响? 3. 在实际部署中,如何动态调整 KV Cache Dropping 的阈值? 4. KV Cache Dropping 是否会影响模型的推理速度? 5. 有哪些开源框架或工具支持 KV Cache Dropping 技术? [^2]
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
红包 添加红包
表情包 插入表情
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值