- 博客(17)
- 收藏
- 关注
RSS订阅原创 通俗的讲解DFS算法（深度优先搜索）附代码示例
深度优先搜索（Depth-First Search，简称DFS）是一种用于图形和树结构的遍历算法。该算法从起始节点开始，沿着一条路径尽可能深入地探索，直到无法继续或达到目标节点为止。如果遇到无法继续前进的节点，算法会回溯到上一个节点，然后探索其他路径。假设我们有一个迷宫，目标是从起始点找到迷宫的出口。我们可以使用DFS来解决这个问题。DFS的过程可以用递归或栈来实现。
2024-01-28 12:40:26
631
1
原创 机器学习算法之EM算法
以上操作我们称作E步，即根据初始化θ_0，我们得到Q(z)分布，然后求每组实验所对应的期望值（男女身高例子过程中即为，男生贡献该身高的概率和女生贡献该身高的概率）Q（z）是关于初始化θ_0的概率分布。因此我们实际上找到了优化目标的一个下界，那么我们不妨就逐渐让下界变大，以逐渐逼近最大值，当不等号变成等号的时候，也就说明我们的调整已经等价于优化目标函数的最大值了，因此等号成立的条件是。注：EM算法可以保证收敛到一个稳定的点，但无法保证是全局最优解，如果优化目标是凹的，则存在。
2024-01-26 17:25:22
1291
1
原创 浅谈相对位置编码和绝对位置编码
相对位置编码：没有完整建模整个序列的位置信息，而是在算当前位置的Attention的时候，考虑了当前位置和被Attention位置之间的相对距离（这一操作可以体现在计算Attention过程中，在计算中引入一个相对位置向量进行学习，下图展示：）；相对位置编码是一种根据位置之间的相对关系来编码序列的方法。（3）标题对于ij的相对位置表示为j与i的相对距离，其中clip（j-i,k）用来对j-i进行截断处理，截断范围为（-k,k）其中k表示相对位置的范围区间，当j-i小于-k则令成-k，大于k则令成k;
2024-01-25 21:30:00
5512
原创 机器学习算法之逻辑回归与最大熵
读者后续要做的可能就是一波强行记忆了，有点狗血~接下来我们就聊聊这一块的盲区，强行解释一波，以自洽的方式初步了解，不至于让读者对某个点钻牛角尖，我个人认为有时候，在学习的过程中不是我们想要钻牛角尖，而是有些资料确实没讲明白！根据上面的推导过程其实并不难理解，我们直接关注6.22，整个就是我们最终求得的最大熵判别模型，只不过只是架起的框架，至于特征函数f的权重向量w，需要进一步的确定【直接把计算的P（y|x）回代公式，对每个w在求偏导数就ok】，我们知道一个判别模型的特征函数集合，可能有很多；
2024-01-25 17:07:54
1020
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人