Oki929-优快云博客

原创算法题报错记录

不能用变量作为数组的长度大小->用vector这个错误是，通常是因为访问了动态分配数组的越界位置。重新关注一下下标。哈希表初始化的时候初始化的是unordered_map<string,vector<string>>，而s是string，而非vector<string>，因此，应该用push_back而非=。整数溢出了，也可以检查一下是不是数组序号超过了数组长度-1方括号初始化是python用法，在c里面用大括号初始化这个错误表明你尝试在vector上调用insert方法，但参数传递方式不正确。

2025-07-21 14:13:35 1097

原创 Chunking-free RAG

参考：BGE Landmark Embedding原论文：《https://arxiv.org/pdf/2402.11573》Chunking-Free In-Context Retrieval原论文：《https://arxiv.org/pdf/2402.09760》RAG中chunk大小的选择很重要，过大会丧失文本的精确语义，过小会导致文本不连贯。与此同时，RAG存在不可避免地的限制：一方面，输入序列被划分为不连贯的块，从而破坏了上下文的连贯性，不利于嵌入质量。

2025-07-06 14:01:20 603

原创大模型量化

pytorch代码（一开始比较疑惑，为什么forward函数里只有最开始和最后有量化与反量化操作，答：在动态量化中，量化只发生在具有权重的层，因此，只需要在量化算子中进行配置相关层进行量化就好了；然而，对于神经网络而言，一般参数值符合以零为中心的正态分布，因此线性的映射关系并非最优，我们应当在密集的地方多分配一些整数去表示，而在稀疏的地方少分配一些，从而减少量化带来的误差。我们最终参与计算的还是浮点数，因此需要进行反量化操作，同时，为保证计算误差小，要使得反量化之后的值尽可能地接近量化前的值。

2025-06-14 01:22:28 1067

原创 [算法]杂记

这道题的代码如下，一开始有点不懂就是这样是否会强制每个结点的左右节点都相等，仔细思考了下发现不然，他这里的两个布尔是左节点的左节点与右节点的右节点比较，然后一直往上传布尔类型，但凡有一个是false，那整个树都是false。=>对于一个根节点先计算不算最底层的树的深度判断其左右节点是否为满二叉树，如果是，则套用公式2^n-1（代入刚刚求得的深度），如果不是，则继续向下判断其节点是否是满二叉树。=======================深搜与宽搜========================

2025-05-23 10:32:10 931

原创【视觉提示学习】3.28阅读随想

CoOp通过，这些向量可以用随机值或预训练的词嵌入进行初始化（见图2）。我们提供了以处理不同性质的任务：一种是基于统一上下文（unified context），它与所有类别共享相同的上下文，并且在大多数类别上表现良好；另一种是基于类别特定上下文（class-specific context），它为每个类别学习一组特定的上下文标记，并且发现在某些细粒度类别上更为合适。在训练过程中，我们只需通过最小化与可学习上下文向量相关的交叉熵损失来优化预测误差，同时保持整个预训练参数固定不变。

2025-03-30 23:24:25 1178

原创【视觉提示学习】3.21论文随想

图a是卷积神经网络适应新任务时的策略，仅微调部分参数，如检测头，偏置项等等，图b是vpt的工作，冻结backbone，在输入时引端入一部分参数作为prompt，微调输入参数与检测头。中文综述，根据里面的架构，把视觉提示学习分成两类，一类是单模态提示学习（以vit为代表），一类是多模态提示学习（以clip为代表）接下来就是顺藤摸瓜去看对应的论文。探索了两个版本，一个浅提示，一个深提示，浅提示就是只在最开始的encoder层加一组p个连续的d维嵌入（即prompts），深提示就是每个encoder开始都会加。

2025-03-21 23:12:57 793

原创【CodeAgent论文】VERSICODE: TOWARDS VERSION-CONTROLLABLE CODE GENERATION

称为API a 的生命周期。为此，1.提出了两个新的任务：特定版本代码完成（VSCC）和版本感知代码迁移（VACM），2.构建了用于评估的benchmark: VersiCode，3.提出一个新的指标Critical Diff Check去评估。，从GitHub收集了这些库的所有可用版本的源代码，并通过PyPI进行验证，以确保所收集的版本是正式发布的，并且可以通过pip安装。：API生命周期特征，如“添加”（新版本中添加的API）、“废弃”（已废弃的API）或“通用”（继承自上一版本的API）。

2025-02-27 23:30:00 919

原创【报错】训练参数不更新

仔细想了下发现是因为需求变了，以前所有channel都默认0的，所有在创建完feature_mask之后再扩展问题也不大，但现在需要训每个channel的baseline就不能这么搞了）仔细debug，发现当channel才循环到1时，feature_map后面的channel的数值已经被更新了，也就是说，除了最后一次循环最后一次更新，前面的循环都是无效的，印证了我的猜想。我一开始以为是调参的问题，当时loss是先升后降的，试了改动学习率（改小/使用可变学习率），发现还是完全不改变。

2025-02-26 02:11:57 470

原创【报错】训练过程loss曲线完全不变（叶子节点）

（而且logits被认为是叶子节点我尚能理解，loss定义如下，loss = torch.abs(torch.sum(logits[7:800:8]) - torch.sum(logits[3:800:8]) - torch.sum(logits[5:800:8]) + torch.sum(logits[1:800:8]))，为什么loss也是叶子节点呢？logit的grad_fn为none，grad为向量，is_leaf为True，requires_grad为原本是false，现在被我设置成了true。

2025-02-25 12:14:26 717

原创【报错】.h5、.onnx、.pt文件的转化

对于这个问题，又仔细想了下，tensorboard是依赖，也就是之前pip uninstall没删干净的原因，于是重开了个环境，然后又开始报keras与python不兼容的错了，但是在链接里是匹配的，算了。2. .h5的输出与.onnx的不同【两个都是0. 1.，但是1的位置不同，总类别数为58，一个在18，一个在38，考虑从零开始计数，二者相加为总类别数】.pt和.h5文件之间无法直接转化，通常用.onnx作为桥梁，所以尝试.h5先转成.onnx，再转成.pt。记录一下碰到的问题。

2025-02-20 13:19:32 818

原创【电子存档】WGAN学习笔记

没看太细，具体的证明细节（比如从（12）到（13）的证明）没看，感觉应该是测度论里面的内容了。保研结束后再补补数学，之后再看。今天没事干，看了W-GAN，蛮有趣的，电子留存一下学习笔记。

2025-02-12 16:43:10 322

原创 readme-ai库报错ClientConnectorError的解决方法

终端代理开了的情况下，报这个错误，仔细看报错信息，proxy=None, proxy_auth=None, proxy_headers_hash=None，这代表代码里还是没有用代理，因此要去改代码。上GitHub issue上没人问这个问题，估计是只有国内才会报这个错吧，哈哈，大年初二改了一个晚上没弄明白，赛博闹鬼了......proxy后面改成你的终端代理，保存后再次运行即可。

2025-01-31 09:58:44 927

原创【ToolLearning论文系列8】LLMs in the Imaginarium: Tool Learning through Simulated Trial and Error

使用来自 ToolBench 的 API 进行实验，筛选出可免费使用且执行延迟低的 API，最后获得了50个API，在探索阶段，我们使用 ChatGPT进行探索和释义，并使用 GPT-4进行最终的示例过滤。对测试集中的示例进行人工检查和修正，以确保这些示例是高质量的。具体来说，我们采用 ReAct，在每个步骤中，LLM 首先表达其内部想法，然后进行动作（API 调用）并观察相应的执行反馈，然后重复“想法 - 动作 - 观察”过程，直到模型确定 API 调用已返回足够的信息或达到预定义的最大调用次数。

2025-01-26 19:00:00 2231

原创【tool learning论文系列7】MULTI-MODAL AGENT TUNING: BUILDING A VLMDRIVEN AGENT FOR EFFICIENT TOOL USAGE

之前探讨的toollearning方法都是基于提示中的上下文示例仅涉及文本信息且预定义的上下文示例是固定的的情况，但如果提示中有图片呢？比如看图一中的两个问题：第一个问题是，我想给图里每个小孩都买一个PS5，并且给了一张PS5价格的截图；第二个问题是，我想给图里每个人都买一个显卡，参考一月的价格，我总共需要多少钱？不难看出，两个问题的输入都涉及到了图片，拿GPT4驱动的Agent和本文训出来的T3Agent做对比，可以看出T3Agent对于多模态信息的处理是要好于GPT4驱动的Agent的。

2025-01-25 20:00:00 1629 2

原创【toollearning论文系列6】TOOLLLM: FACILITATING LARGE LANGUAGEMODELS TO MASTER 16000+ REAL-WORLD APIS

TOOLLLM: FLARGELMASTER16000+ REALWORLDAPISTOOLLLM: FLARGELMASTER16000+ REALWORLDAPIS本文针对开源大模型工具使用能力不如闭源大模型（GPT系列）这一问题，先前的研究有三个局限性，1.API有限（不涉及现实世界的 API或仅考虑一小部分多样性较差的 API）2. 情景受限（只考虑单一工具的使用而不考虑串行使用）3. 推理质量低：现有工作采用 CoT 或 ReACT 【

2025-01-24 19:00:00 2521

原创【toollearning系列5】ToolAlpaca: Generalized Tool Learning for Language Models with 3000 Simulated Case

文章提出的问题是：目前toollearning要么在大型（指参数量多，如GPT-4）的LLM以zero-shot方式获得通用工具使用能力，要么利用监督学习在小型模型上训练有限范围的工具。然而，监督微调小型模型的泛化能力仍然是未知的（也就是，模型通过微调获得的工具使用能力能不能迁移到未见过的工具上）。为了解决这个问题，本文介绍了 ToolAlpaca。模型架构如下：如图所示，这个框架由两个阶段组成：工具集构建、工具使用实例生成。

2025-01-23 21:00:00 999

原创【toollearning论文系列4】StepTool: A Step-grained Reinforcement Learning Framework for Tool Learning in LL

为了增强 LLM 的工具学习能力，大多数方法都依赖于监督微调（SFT）。尽管 SFT 的实现很简单，但在训练 LLM 进行工具学习时遇到了两个关键限制。首先，模仿静态的预定义工具序列限制了模型适应新任务或环境的能力。其次，专家轨迹虽然可以成功完成任务，但可能不是工具调用的最佳顺序。盲目模仿这些轨迹会导致任务解决性能欠佳。微调模型的方法还有RLHF，在强化学习视角下，工具调用的每个步骤都被视为导致状态转换的操作，并且模型是从操作-状态转换中训练的。

2025-01-22 21:00:00 1137

原创【toollearning论文系列3】ToolkenGPT: Augmenting Frozen Language Models with Massive Tools via Tool Embedd

为了使得LLM具有使用工具的能力，现有的方法主要有两种：上下文学习和微调。微调计算成本高且对新工具适应性低；上下文学习有token长度的限制（超过了的信息就会被大模型遗忘），因此无法在上下文中演示大量的工具，展示少量示例效果又不好。因此，本文推出ToolkenGPT，与先前方法的对比如下表：可以看出，它无需微调、可以使用大量工具、即插即用、能够使用大量数据。下面介绍他的架构。

2025-01-21 22:00:00 2427

原创【tool learning论文系列2】FROM EXPLORATION TO MASTERY: ENABLING LLMS TO MASTER TOOLS VIA SELF-DRIVEN INTE

在ToolBench和RestBench上进行试验（这两个都是前人论文构建的API库，本文的重点在改进API数据集，因此实验的思路也是，用原先的数据集微调模型，用改进后的数据集微调模型，对比看看用改进后的数据集微调是否会更好[于是我不太理解为什么这张表把DRAFT这种完善数据集的方法放在了method列里而非第一行再加三个列名]）。【评：我感觉本文的主要亮点在于，发现了一个新的问题：API数据库描述文档现存的问题，就和先前主要的研究（如何去构建一个API数据集）有比较大的不同，比较新颖。

2025-01-20 19:00:00 1370

原创【tool learning论文系列1】TOOLACE: ENHANCING FUNCTION CALLING WITH ACCURACY, COMPLEXITY, AND DIVERSITY

比如，对于一个只有五亿参数的大模型理解极度复杂的数据并调用长依赖的API是困难的，与此同时，一个七百亿参数的模型解决清晰的指示与简单的API是轻松的，两种情况下数据都是低效的。每个对话user都对于抽中的API初始化一个问题，assistantagent通过请求去决定是去调用一个API还是去请求更多的信息，如果需要一个工具，toolagent会提供模拟的结果，然后assistantagent会总结结果并返回给user。之前说，会根据大模型的不同去动态调节数据的复杂度，那么，如何衡量数据的复杂度呢？

2025-01-19 21:09:30 1156

原创提示工程入门

Few-shot-CoT方法中，给了示例的思维链，那么对于一个新的问题，它的思考过程会固化（比如，如果示例分三步解决问题，那么对于新问题，大模型有很大概率也会分三步去解决，然而并非所有问题都需要或能够在三步思维链中获得解答），即解决问题的迁移能力不够，泛化能力不够。具体来说，流程为：先引导模型“解决当前问题首先要去解决哪一个前置问题”，根据这个回答去创建子问题，然后解决子问题，然后去检查解决完这个子问题后能否解决原问题，若不能，则再创建一个子问题，以此往复。对于这四个问题，前三个问题，推理正确，回答正确。

2025-01-18 21:39:01 488

原创 yolov11找anchor_id

step1：在ultralytics/utils/ops.py中加入这个函数。step3：补齐该导入的包，后运行即可打印anchor_id。

2025-01-17 22:13:42 481

原创大模型入门知识

2025.1.17：读tool learning相关论文读了八篇，读完了但仍然云里雾里的，可能是与我先前没有大模型基础有关，于是恶补一下大模型基础知识，本篇博客仅作记录，如有错误，烦请指出。OpenAI各个模型的API 部署开源大模型掌握API使用方法两类大模型1. openai发布的效果最好、生态最丰富、功能最齐全的一系列大模型组2.目前中文效果最好、最具潜力、同时具备多模态功能的开源大模型——ChatGLM6B&visualGLM6B。

2025-01-17 18:45:51 1325

2402_83131238的博客