小球下落 Dropping Balls

文章描述了一个关于满二叉树和小球下落的问题,其中小球按照特定规则改变节点的布尔值并选择左或右子树移动。给定树的深度和小球编号,程序需找出小球停止时所在的叶子节点编号。解决方案包括使用二维数组记录小球路径和节点状态。

小球下落 Dropping Balls

题面翻译

更详尽翻译请参考紫书。

许多的小球一个一个的从一棵满二叉树上掉下来组成一个新满二叉树,每一时间,一个正在下降的球第一个访问的是非叶子节点。然后继续下降时,或者走右子树,或者走左子树,直到访问到叶子节点。
决定球运动方向的是每个节点的布尔值。最初,所有的节点都是 FALSE,当访问到一个节点时,如果这个节点是 FALSE,则这个球把它变成 TRUE,然后从左子树走,继续它的旅程。如果节点是TRUE,则球也会改变它为 FALSE,而接下来从右子树走。满二叉树的标记方法如下图。
因为所有的节点最初为 FALSE,所以第一个球将会访问节点 1,节点 2 和节点 4,转变节点的布尔值后在在节点 8 停止。第二个球将会访问节点 1、3、6,在节点 12 停止。明显地,第三个球在它停止之前,会访问节点 1、2、5,在节点 10 停止。
现在你的任务是,给定新满二叉树的深度 d 和下落的小球的编号 i ,可以假定I不超过给定的新满二叉树的叶子数,写一个程序求小球停止时的叶子序号p。

题目描述

PDF

输入格式

输出格式

样例

样例输入 #1

5
4 2
3 4
10 1
2 2
8 128

样例输出 #1

12
7
512
3
255

思路分析

一开始可以以一种稍显“粗暴”的方式去分析问题,小球会一层层掉落,已知高度有限且易知一个简单的事实,单看一条走到叶结点的路径,其经过的所有非叶结点都对应一个深度,把最深的叶结点提前算好,那么第i个小球从根结点开始掉落经过的所有非叶结点在对应深度上的编号就是i,并用数组记录每个结点经过对应深度的树的编号即可,判断向左还是向右用一个标记数组记录即可。(紫书上有更精妙的解法,以下作为一种思路的开拓)

代码实现

#include <iostream>
#include <cstring>
using namespace std;
const int I = 524288;
const int MAXDEEP = 20;
int num[I + 1][MAXDEEP + 1]; // 在给定的n个小球和深度depth下,用于存放最后一个小球落到的位置
int tree[1024 * 1024]; // 一棵最深的满二叉树对应的结点树量是:2^20
int main(){
    memset(tree, 0, sizeof(tree));
    for(int i = 1; i <= I; i++){
        int idx = 1;
        for(int j = 1; j <= MAXDEEP; j++){
            num[i][j] = idx; // 记录小球的编号i
            if(tree[idx] == 0){ // 0向左走
                tree[idx] = !tree[idx]; // 改变开关状态
                idx = 2 * idx;
            }else{ // 1向右走
                tree[idx] = !tree[idx];
                idx = 2 * idx + 1;
            }
        }
    }
    int caseNumber;
    int depth, n;
    cin >> caseNumber;
    while(caseNumber--){ // 利用已计算好的结果直接输出
        cin >> depth >> n;
        cout << num[n][depth] << endl;
    }
    return 0;
}

KV Cache Dropping 是一种用于优化大语言模型(LLM)推理过程中内存使用的技术,特别是在处理长序列时减少KV Cache(Key-Value Cache)的存储开销。其核心思想是通过选择性地丢弃(drop)部分KV对,以降低内存占用并提升推理效率,同时尽量不影响模型输出的质量。 ### KV Cache Dropping 的技术原理 在自回归生成任务中,KV Cache 用于存储每个已生成 token 对应的 Key 和 Value 向量,以便在后续的 Attention 计算中快速获取历史信息。随着生成序列的增长,KV Cache 的内存占用也随之线性增长。KV Cache Dropping 通过以下方式缓解这一问题: 1. **基于注意力机制的冗余性**:在实际生成过程中,某些历史 token 对当前 token 的预测影响较小,这些 token 对应的 KV 对可以被视为冗余。通过识别并丢弃这些冗余的 KV 对,可以在不显著影响输出质量的前提下减少内存消耗。 2. **动态筛选机制**:一些 Dropping 策略会根据当前 token 与历史 token 的相关性动态决定是否保留某个 KV 对。例如,通过计算 Query 向量与 Key 向量之间的相似度,若相似度低于一定阈值,则认为该 KV 对对当前 Attention 计算贡献较小,从而选择丢弃。 3. **静态策略**:某些方法采用固定的策略,例如每隔一定步数丢弃部分 KV 对,或者仅保留最近的 N 个 token 的 KV 对。 ### 应用场景 KV Cache Dropping 主要适用于以下几种场景: - **长文本生成任务**:在生成较长文本(如文章、对话等)时,KV Cache 的内存占用会显著增加。Dropping 技术可以有效控制内存使用,使模型在有限硬件资源下仍能处理长序列。 - **边缘设备推理**:在资源受限的设备(如移动设备或嵌入式系统)上部署大语言模型时,内存优化尤为重要。KV Cache Dropping 可以帮助降低内存需求,提高推理效率。 - **实时推理服务**:在需要低延迟的推理服务中,减少 KV Cache 的大小可以加快 Attention 计算,从而提升整体响应速度。 ### 示例代码 以下是一个简化的 KV Cache Dropping 实现逻辑,假设我们使用基于相似度的动态筛选策略: ```python import torch import torch.nn.functional as F def drop_kv_cache(query, key, value, threshold=0.5): """ 根据Query和Key之间的相似度决定是否丢弃部分KV对。 :param query: 当前Query向量 (batch_size, head_num, seq_len, dim) :param key: 历史Key向量 (batch_size, head_num, seq_len, dim) :param value: 历史Value向量 (batch_size, head_num, seq_len, dim) :param threshold: 相似度阈值 :return: 经过Drop后的Key和Value """ # 计算Query与Key之间的相似度(点积) similarity = torch.matmul(query, key.transpose(-2, -1)) # (batch_size, head_num, seq_len, seq_len) # 取最后一个Query与其他Key的相似度 last_similarity = similarity[:, :, -1, :] # (batch_size, head_num, seq_len) # 计算平均相似度 avg_similarity = last_similarity.mean(dim=1) # (batch_size, seq_len) # 判断是否保留每个KV对 mask = avg_similarity > threshold # 应用mask,保留符合条件的KV对 new_key = key[:, :, mask, :] new_value = value[:, :, mask, :] return new_key, new_value ``` ### 相关问题 1. KV Cache Dropping 技术相比其他 KV Cache 优化方法有哪些优势? 2. 如何评估 KV Cache Dropping 对生成质量的影响? 3. 在实际部署中,如何动态调整 KV Cache Dropping 的阈值? 4. KV Cache Dropping 是否会影响模型的推理速度? 5. 有哪些开源框架或工具支持 KV Cache Dropping 技术? [^2]
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值