weixin_43378751的博客

极大似然估计 与 EM算法什么是极大似然估计？简单的说，有一组观测数据Y，我们假定这个Y是由参数theta产生的概率分布P产生的。极大似然估计，就是求解theta，使得由P产生Y的可能性最大化。我们在学习概率论时经常解的概率题，都可以看作时一次极大似然估计。比如：重复扔一个硬币，得到序列[1,0,0,1,1]，求硬币朝上的概率？Y = [1,0,0,1,1]P = 假设硬币朝上的概率时pitheta = pi观测值，概率模型，参数都有了。计算pi = Mean(Y) = 0.6求解最大

Attention机制，是根据目标给输入分配权重，并加权求和的操作。标准的输入为三部分，即Query, Key, Value。（下面简写为Q，K，V）标准的操作是根据Query和Key计算出一个score，并使用该score作为权重，对Value进行加权求和。即 step1, score = F(Q, K)step2, attention_weight = softmax(score)step3, output = sum(attention_weight * V)F是计算权重分数所使用的函数

Majority Element II找出数列中出现次数大于1/3数列长度的值。如果用字典当然可以计算，但是题目要求空间复杂度O(1)如何不使用额外空间计算数列中值的出现次数呢？这里用到的方法叫做Boyer-Moore Algorithm添加链接描述，是一种非常巧妙的统计majority的算法，具有O(n)的时间复杂度和O(1)的空间复杂度。1，定义majority为出现次数超过一半...

leetcode 221. Maximal Square给定一个元素只有0或1的matrix，寻找其中由1组成的最大正方形的面积。采用动态规划解题。dp[i][j]表示以i，j为右下角的值为1的最大正方形的边长。于是对于matrix[i][j] == 0, 有dp[i][j] == 0对于matrix[i][j] == 1, 有dp[i][j] = min(dp[i-1][j-1], d...

判断数列nums中，是否存在index距离不超过k的两个元素间值差不超过t最直观的想法就是用大小为t+1的滑动窗口去滑动，同时比较每个窗口内的元素差。但是遍历数组去比较必然会超时。1，要用字典去快速读取和比较。2，字典的key采用了“桶”方式，用数组的值x处以元素差t，即x//max(t, 1)分析可知，如字典中存在与x不超过t的差，其key必然在（ x//max(t, 1), x//m...

在做leet code 215. Kth Largest Element in an Array。要求输出一个无序数组的第k大的元素。可用堆排序求解。于是复习了一下堆排序的相关知识，如下：堆排序**1 堆的定义：**近似完全二叉树的结构。子节点的键值总是大于（或小于）它的父节点。以大顶堆为例，最大值总是位于根节点。堆是二叉树结构，也可以用数组表示，即逐层遍历元素的顺序。2 堆的操作...

快慢指针法找链表中的循环，很巧妙。即使用两个指针，快指针每次前进2，慢指针每次前进1，如果最终相遇，则链表中包含循环结构。如果找到循环开始的位置呢？如下图：n0 --> n1 --> … --> nx --> … ny             |      |             <–… …<–nx 为循环开始点， ny为快慢指针相遇点。假...