simon_skywalker-优快云博客

原创算法导论第三版代码python实现与部分习题答案-第四章：分治策略(处理中)

Exercise 4.1-2暴力法代码Exercise 4.1-4假定修改最大子数组问题的定义,允许结果为空子数组,其和为0。你应该如何修改现算法, 使它们能允许空子数组为最终结果?Exercise 4.1-5为最大子数组问题设计一个非递归的线性时间算法（Kadane算法），其核心思想是：目标证明在第 i 次迭代后，是数组 A[0…i] 的最大子数组和。基例（i=0）归纳假设假设在第 k 次迭代后，是 A[0…k] 的最大子数组和归纳步骤（k → k+1）处理 A[k+1] 时：根据归纳假

2025-07-14 17:33:29 228

原创算法导论第三版代码python实现与部分习题答案-第二章：算法基础

重写过程 MERGE, 使之不使用哨兵, 而是一旦数组 L 或 R 的所有元素均被复制回 A 就立刻停止, 然后把另一个数组的剩余部分复制回A。考虑对归并排序的一种修改,其中使用插入排序来排序长度为k的n/k个子表, 然后使用标准的合并机制来合并这些子表, 这里k是一个待定的值。, 要使修改后的算法与标准的归并排序具有相同的运行时间, 作为 n 的一个函数, 借助。就是数组中的逆序对总数。a. 列出数组〈2, 3, 8, 6, 1〉的5个逆序对。中的元素构成的什么数组具有最多的逆序对?

2025-07-12 15:38:56 358

原创 python元编程笔记

提供代码示例以及详细的注释和内容补充

2025-06-18 17:31:10 133

原创 python类与对象强化笔记

本文章补充了在类与对象方面的一些高级技巧，主要目的是提升程序的运行速度，增强代码的可读性等等。描述了诸如装饰器、命名规范、重整机制等进阶内容。主要内容来自《pythoncookbook》

2025-06-12 17:54:18 292

原创 python函数强化笔记

一些关于python函数部分的高级内容和"奇技淫巧"，来自《python cookbook》，并添加了详细注释，主要包括：函数参数、函数返回值、闭包、额外状态输入、匿名函数等应用

2025-06-11 16:01:13 301

原创 (更新中)(手撕LLaMA-小白友好的论文解读)LLaMA：开放且高效的基础语言模型

我们推出LLaMA，一系列参数规模从7B到65B不等的基础语言模型。我们在数万亿tokens上训练这些模型，并证明可以完全使用公开可获取的数据集训练最先进的模型，而无需依赖专有和不可访问的数据集。特别是，LLaMA-13B在大多数基准测试中超过了GPT-3（175B），而LLaMA-65B则与最佳模型Chinchilla-70B和PaLM-540B相比具有竞争力。我们向研究社区发布我们的所有模型¹。NOTE]就是用开源数据练了一个很厉害的大模型。

2025-04-22 16:15:52 623

原创 (带个人笔记)BERT: 用于语言理解的深度双向Transformer预训练模型

目的：通过随机掩盖词元，训练深度双向表示，捕获上下文的双向信息。训练过程随机选择 15% 的词元进行掩盖。只预测被掩盖的词元，而非重构整个输入。掩盖策略：80% 用[MASK]替换。10% 用随机词元替换。10% 保持不变。损失函数：使用交叉熵损失预测原始词元。优点与问题优点：实现双向预训练。问题：微调时不存在[MASK]，导致预训练与微调不匹配。解决方案：采用混合掩盖策略（部分随机替换或保持不变）。与去噪自编码器的区别：只预测被掩盖词元，而非重构整个输入。

2025-04-19 15:58:52 1999

原创基于 Transformer 的机器翻译模型(手撕Transformer)

位置编码（Positional Encoding）的核心思想是为序列中的每个位置创建唯一的向量表示，使Transformer模型能够感知元素的相对或绝对位置。嵌入层将Transformer模型的符号输入转换为连续向量空间中的表示，为后续的位置编码层和自注意力机制层提供了基础的特征表示。：正弦和余弦函数有一个重要性质 —— 任意位置的编码可以表示为其他位置编码的线性函数。：正弦和余弦函数的周期性使得编码可以扩展到未见过的序列长度。：不同位置的编码是唯一的，避免了位置冲突。，计算位置索引为0、1、2的编码。

2025-04-16 11:38:36 649