wenyusuran的专栏

图网络简介1 深度学习中的特征表达 独热编码（左图）：只有一个维度有值，其他为0 嵌入表达（右图）：所有维度都有值 2 图神经网络图神经网络中，每个结点都具有信息，这个信息可以是独热编码也可以是嵌入编码（向量表示）。每个结点的信息可以表示为图片、文字等。每个结点都用一个向量表示，网络一旦训练，结点之间将会互相影响。1 单节点消息传递上图可以用下式表示：2 多节点消息传递所有结点同时更新（分布式运行）。消息传递..

鲸鱼优化算法(原理)1 算法简介鲸鱼被认为是世界上最大的哺乳动物，成年鲸鱼可长到 30 m 长和 180 t 重。鲸鱼通常以群居为主。鲸鱼是食肉动物，它们最喜欢的食物是成群磷虾和小鱼。鲸鱼有一种独特的捕食行为，即气泡捕食法。气泡捕食法具体为： 鲸鱼首先潜入水深约 15 米处，以螺旋形姿势向水面上游动，游动过程中伴随着吐出许多大小不等的气泡，使最后吐出的气泡与第一个吐出的气泡同时上升到水面； 与此同时，所吐出的气泡便构成了类似于圆柱状或管状的气泡网，有如蜘蛛所编织的网，把猎物紧紧.

图网络 MixHop 简介1 模型提出标题：MixHop: Higher-Order Graph Convolutional Architectures via Sparsified Neighborhood Mixing链接：https://arxiv.org/abs/1905.00067标准GCN只能学习到相邻结点之间的信息，不能学习邻里混合关系。为了解决这个缺点，作者提出了一个新的模型，MixHop，通过重复混合不同距离的邻居的特征表示，它可以学习这些关系，包括不同的运算子

正余弦优化算法(原理)1 算法简介随机种群优化算法的共同点是将优化过程划分为探索与开发两个阶段。 在前一阶段，优化算法将解集中的随机解以较高的随机率突然组合在一起，寻找搜索空间的有希望区域。 而在开发阶段，随机解的变化是渐进的，且随机变化比探索阶段要小得多。 对此，澳大利亚学者Mirjalili于2016年提出正弦余弦算法（Sine Cosine Algorithm，SCA）。SCA 归纳吸收了部分群智能优化算法的迭代策略，以包含特定个数随机解的集合作为算法的初始解集，重复地

HMM维特比算法及扩展1 维特比算法在隐马尔可夫模型的许多应用中，潜变量有一些有意义的解释，因此对一个给定的观察序列寻找最可能的隐状态序列往往是有趣的。例如，在语音识别中，我们可能希望为给定的一系列声学(acoustic)观察找到最可能的音素(phoneme)序列。由于隐马尔可夫模型的图是一个有向树，这个问题可​ 以用最大和算法(max-sum algorithm)精确地解决。寻找最可能的潜在状态序列的问题与寻找个别最可能的状态集的问题是不同的。后一个问题可以通过先运行前向后向(和积)算法来找到

灰狼算法(原理)1 算法简介灰狼优化算法是澳大利亚格里菲斯大学学者Mirjalili 于2014 年提出的一种新型群体智能优化算法。GWO模拟灰狼群体捕食行为的特性，主要通过狼群追踪、包围、追捕、攻击猎物等过程来达到优化搜索的目的。灰狼属于犬科。灰狼是顶级的食肉动物，它们在食物链的顶部。灰狼通常以群居为主。每个群体中平均有5~12 只狼。使人特别感兴趣的是它们具有非常严格的社会等级管理制度，如下图所示。 灰狼的狩猎包括以下３个主要部分：１）跟踪、追逐和接......

烟花算法(原理)1 算法简介烟花算法（Fireworks Algorithm，简称 FWA）是Tan和Zhu在2010 年提出的基于模拟烟花爆炸产生火花这一自然现象的新颖的群智能算法。当一个烟花爆炸时，在它周围一定范围的区域内会产生一定数量的火花，但是每个烟花的爆炸半径和爆炸火花数量是各不相同的。在优化过程中，用适应度函数对每个烟花及其爆炸产生的火花进行评价。 如果烟花及火花所对应的适应度函数值越小，说明这个烟花或者火花属于优质的个体，在选择其作为下一次爆炸烟花的时候，产生的火花数量越

飞蛾扑火优化算法(原理)1 算法简介飞蛾是一种奇特的昆虫，与蝴蝶家族非常相似。基本上，自然界有超过16万种不同种类的这种昆虫。它们一生中有两个主要的里程碑：幼虫和成虫。幼虫在茧中变成蛾。关于飞蛾最有趣的事实是它们在夜间特殊的导航方式。它们已经进化到能利用月光在夜间飞行。他们利用一种叫做横向定位的机制来导航。在这种方法中，蛾子对月亮保持一个固定的角度飞行，这是一种非常有效的机制，可以在直线路径上长距离飞行。下图为横向定向概念模型。由于月亮离飞蛾很远，这种机制保证了它的直线飞行。同样的导航方法也

自相关与偏自相关在时序分析中，自相关与偏自相关出现的比较多，今天就来给大家讲解一下这两个的基本概念。1 简介自相关和偏自相关的图在时序分析中有广泛的应用。这些图以图形化的方式总结了时间序列中的一个观测值与之前的时间步长的关系强度。两者的区别对于初学者来说是困难的以及难以理解的。Date Temp1981/1/1 20.71981/1/2 17.91981/1/3 18.81981/1/4 14.61981/1/5 15.81981/1/6 15.81981/1/7 1

通过联合学习来对齐和翻译的神经机器翻译1 对齐的提出与传统的统计机器翻译不同，神经网络机器翻译的目的是建立一个单一的神经网络，通过联合调节使翻译性能最大化。最近提出的神经机器翻译模型通常属于编码器和解码器的一类，它们将源语句编码成一个固定长度的向量，解码器从中生成翻译。作者推测，使用一个固定长度的向量是改善这个基本的编码器译码器体系结构性能的一个瓶颈，并提出通过允许一个模型(软)搜索部分源相关的句子预测目标词，不需要将这些部分明确地构成硬段。这种方法与基本的编码器-解码器最重要的区别是：

前馈网络函数1 简介从前面的回归和分类中，我们看到其由固定的基函数线性组合而成。但这些模型的分析和计算在实际应用中受限于维数诅咒。为了将这些模型应用到大尺度问题，需要基函数自适应数据。支持向量机[1]通过定义以训练数据点为中心的基函数，然后在训练中选择这些数据点的子集来解决这个问题。SVM的一个优点是，虽然训练涉及非线性优化，但目标函数是凸的，因此优化问题的解决相对简单。支持向量机的一个优点是，虽然训练涉及非线性优化，但目标函数是凸的，因此优化问题的解决相对简单。生成的模型中基函数的数量通常

萤火虫算法(原理)1 算法简介萤火虫算法（Firefly Algorithm，FA）是在2008 年由英国剑桥学者Yang 提出的一种新型启发式智能优化方法，其基本思想来源于萤火虫成虫利用发光的生物学特性而表现出来的觅食、求偶、警戒等社会性行为。该算法根据萤火虫的位置刻画萤火虫个体的自身亮度和对其它萤火虫的吸引度的大小，萤火虫的亮度越高，说明其所处的位置越好，吸引度就越大。每个萤火虫根据其邻域结构内同伴的亮度和吸引度进行移动更新，从而实现位置优化的目的。为了简单起见，可以将这些发光特征理

树的遍历(python)遍历以下二叉树：1 首先创建二叉树，代码如下：classNode:def__init__(self,value):self.value=valueself.left=Noneself.right=NoneclassTree:def__init__(self,root):self.root=Node(root)构建二叉树：tree=...

Tarjan算法1 Tarjan算法简介Tarjan算法在线性时间内运行，是图论中寻找有向图的强连通分量的算法。Tarjan算法基于以下事实： DFS搜索生成一个DFS树/森林。 强连通分量形成DFS树的子树。 如果可以找到这些子树的头部，则可以打印/存储该子树中的所有节点(包括头部)，这将是一个SCC。 从一个SCC到另一个SCC没有后边(可以有交叉边，但在处理图形时不会使用交叉边)。 什么是强连通分量（Strongly Connec...

粒子群优化算法(原理)1 粒子群算法简介粒子群算法(Particle swarm optimization, PSO)是一种仿生算法，它是一种在求解空间中寻找最优解的简单算法。它与其他优化算法的不同之处在于，它只需要目标函数，不依赖于目标的梯度或任何微分形式。它也有很少的超参数。粒子群算法是由Kennedy和Eberhart在1995年提出的。正如在最初的论文中提到的，社会生物学家认为一群鱼或一群鸟在一个群体中移动，可以从所有其他成员的经验中获益。换句话说，当一只鸟在空中随机寻找食物时...

蚁群算法(原理)1 算法简介优化问题在科学和工业领域都非常重要。这些优化问题的实际例子有时间表调度、护理时间分配调度、列车调度、容量规划、旅行商问题、车辆路径问题、群店调度问题、组合优化等。为此，开发了许多优化算法。蚁群优化就是其中之一。蚁群优化(Ant colony optimization,ACO))是一种寻找最优路径的概率技术。在计算机科学和研究中，蚁群优化算法被用于解决不同的计算问题。蚁群优化算法(Ant colony optimization, ACO)最早由Marco D...

模拟退火算法(实战)importnumpyasnpimportmatplotlib.pyplotaspltdefobjective(x):"""目标函数"""returnx[0]**2.0classSA:def__init__(self,X,bounds,n_iter,sigma,T):self.X=Xself.bounds=boundsself.best=...

旅行商问题(TSP)1 简介旅行商问题属于组合优化问题。组合优化问题(Combinatorial Optimization Problem，COP)是一类在离散状态下求极值的问题。把某种离散对象按某个确定的约束条件进行安排，当已知合乎这种约束条件的特定安排存在时寻求这种特定安排在某个优化准则下的极大解或极小解。TSP 的经典提法是：有一个销售员要去若干个城市销售货品，从某个固定城市出发(假设每个城市之间的距离固定)，经过剩下的每个城市至少一次，然后回到起始城市，问题是选择哪条线路，才能使总行

樽海鞘算法(原理)1 算法简介樽海鞘(salp)属于纽鳃樽科，身体呈透明的桶状，身长在 1 厘 米到 10 厘米之间，其透明的特性可以让樽海鞘在水中很好地隐藏自己，保护樽海鞘免 受天敌的伤害。它们的组织与水母非常相似。它们的运动也非常类似于水母，水被泵过身体作为向前移动的推动力。樽海鞘的形状如下图所示。关于这种生物的生物学研究处于早期的里程碑，主要是因为它们的生存环境极其难以接近，而且很难把它们放在实验室环境中。海鞘最有趣的行为之一是它们的群集行为。其自然界中的大多数生物以群的方式移动、

蝙蝠算法(原理)1 算法简介蝙蝠是令人着迷的动物。它们是唯一有翅膀的哺乳动物，它们还有先进的回声定位能力。据估计，世界上大约有996种不同的哺乳动物，占哺乳动物种类总数的20%。它们的体型范围从微小的大黄蜂蝙蝠(约1.5到2克)到翼展约2米、体重约1公斤的巨型蝙蝠。微蝠的前臂长度一般为 2.2-11 厘米。大多数蝙蝠在一定程度上使用回声定位。在所有物种中，微蝠是一个著名的例子，因为微蝠广泛使用回声定位，而巨蝠则不使用。大多数微蝠是食虫动物。微蝠利用一种叫做回声定位的声纳来探测猎物，躲避障

Luong注意力原理1 简介NMT(Neural Machine Translation)通常是一种以端到端方式训练的大型神经网络，具有很好的泛化到很长的单词序列的能力。A stacking recurrent architecture与此同时，“attention”的概念在训练神经网络中得到流行，它允许模型学习不同模式之间的对齐。本文研究了两种简单有效的注意机制： 一种是全局方法，它总是关注所有源词； 另一种是局部方法，它每次只关注源词的一个子集。 2 注意力模

蚁狮优化算法(原理)1 简介蚁狮(Antlions，蚁蛉)属于蚁蛉科和神经翅目(网翅昆虫)。蚁狮的生命周期包括两个主要阶段：幼虫和成虫。自然的总寿命可达3年，主要发生在幼虫(成虫期只有3 - 5周)。蚁狮在茧中蜕变成蚁狮。它们主要以幼虫为食，成年期是为了繁殖。它们的名字来源于它们独特的捕猎行为和它们最喜欢的猎物。蚁狮幼虫沿着圆形的路径在沙子中挖一个圆锥形的坑，然后用它巨大的下巴将沙子扔出去。下图(a)显示了几个不同大小的锥形凹坑。挖好陷阱后，幼虫就会藏在圆锥体底部(作为坐等捕食者)，等待

粒子群优化算法(原理)1 粒子群算法简介完整代码详见机器学习实战应用案例-粒子群优化算法(PSO)实战应用案例粒子群算法(Particle swarm optimization, PSO)是一种仿生算法，它是一种在求解空间中寻找最优解的简单算法。它与其他优化算法的不同之处在于，它只需要目标函数，不依赖于目标的梯度或任何微分形式。它也有很少的超参数。粒子群算法是由Kennedy和Eberhart在1995年提出的。正如在最初的论文中提到的，社会生物学家认为一群鱼或一群鸟在一个群体中移动，...

本文介绍统计学中的一元和多元线性回归，并通过EXCEL自带的统计函数LINEST、INDEX进行手工计算，再通过EXCEL数据分析工具包进行自动计算。由于很多复杂的EXCEL自动化程序，需要用到自动化计算，EXCEL数据分析工具并不适用自动计算，反而EXCEL统计函数是很容易实现批量自动计算。所以本文重点介绍EXCEL统计函数的使用。一、统计学上的线性回归原理回归是研究一个随机变量y对另一个(x)或一组(x1，x2，…，xn)变量的相依关系的统计分析方法。其中y又叫因变量，x叫自变量。

k-means算法是非监督聚类最常用的一种方法，因其算法简单和很好的适用于大样本数据，广泛应用于不同领域，本文详细总结了k-means聚类算法原理 。目录1. k-means聚类算法原理2. k-means聚类算法步骤3. k-means++聚类优化算法4. 小批量处理的k-means聚类算法5. k值的选取6.k-means聚类算法不适用的几个场景7. k-means与knn区别8. 小结1. k-means聚类算法原理聚类算法性能度量的文.

前言以下是我为大家准备的几个精品专栏，喜欢的小伙伴可自行订阅，你的支持就是我不断更新的动力哟！MATLAB-30天带你从入门到精通MATLAB深入理解高级教程（附源码）tableau可视化数据分析高级教程赛题内容赛题背景商家有时会在特定日期，例如Boxing-day，黑色星期五或是双十一（11月11日）开展大型促销活动或者发放优惠券以吸引消费者，然而很多被吸引来的买家都是一次性消费者，这些促销活动可能对销售业绩的增长并没有长远帮助，因此为解决这个问题，商家需要识别出哪类消费者

赛题内容赛题背景赛题以计算机视觉为背景，要求选手使用给定的航拍图像训练模型并完成地表建筑物识别任务。为更好的引导大家入门，我们为本赛题定制了学习方案和学习任务，具体包括语义分割的模型和具体的应用案例。在具体任务中我们将讲解具体工具和使用和完成任务的过程。通过对本方案的完整学习，可以帮助掌握语义分割基本技能。同时我们也将提供专属的视频直播学习通道。赛题描述及数据说明遥感技术已成为获取地表覆盖信息最为行之有效的手段，遥感技术已经成功应用于地表覆盖检测、植被面积检测和建筑物检测任务。本赛题使用

前言在开始任何统计分析之前，需要先对最初收集的数据进行预处理。有许多不同的原因导致需要进行预处理分析，例如： 收集的数据格式不对（如 SQL 数据库、JSON、CSV 等） 缺失值和异常值 标准化 减少数据集中存在的固有噪声（部分存储数据可能已损坏） 数据集中的某些功能可能无法收集任何信息以供分析 以下是我为大家准备的几个精品专栏，喜欢的小伙伴可自行订阅，你的支持就是我不断更新的动力哟！MATLAB-30天带你从入门到精通MATLAB深入理解高级

导读：随着大数据的快速发展，大数据应用已经融入各行各业。在很多场景中得到了商业化实践。今天和大家分享下58同城商业站内DMP平台架构与实践，介绍如何在大数据量的情况下进行实时数据挖掘并为在线广告系统应用提供物料等数据支持。主要内容包括： DMP 平台简介 DMP架构及实现 DMP应用 未来规划 01DMP平台简介DMP 其实是一个数据管理平台，是把分散的多方数据进行整合纳入统一的技术平台，并对这些数据进行标准化和细分，让用户可以把这些细分结果推向现有的互动

假设一个 mp3 搜索引擎收录了 2^24 首歌曲，并记录了可收听这些歌曲的 2^30 条 URL，但每首歌的 URL 不超过 2^10 个。系统会定期检查这些 URL，如果一个 URL 不可用则不出现在搜索结果中。现在歌曲名和 URL 分别通过整型的 SONG_ID 和 URL_ID 唯一确定。对该系统有如下需求：1) 通过 SONG_ID 搜索一首歌的 URL_ID，给出 URL_ID 计

影迷们经常关注的电影排行榜里，一部由100人评出9.0分的电影，和一部由10000人评出8.0分的电影，谁应该排在前面呢？这是我们算法工程师时常会面对的问题。一些深度影迷可能会想到 imdb.com (互联网电影数据库) 所采用的贝叶斯公式[见附注]，这个公式的思路就是通过每部影片的［评分人数］作为调节排序的杠杆：如果这部影片的评分人数低于一个预设值，则影片的最终得分会向全部影片的平均分拉

Gossip算法因为Cassandra而名声大噪，Gossip看似简单，但要真正弄清楚其本质远没看起来那么容易。为了寻求Gossip的本质，下面的内容主要参考Gossip的原始论文：>。 1. Gossip背景Gossip算法如其名，灵感来自办公室八卦，只要一个人八卦一下，在有限的时间内所有的人都会知道该八卦的信息，这种方式也与病毒传播类似，因此Gossip有众多的别名“闲话算

前言    经典算法研究系列，已经写到第十五章了，本章，咱们来介绍多项式的乘法以及快速傅里叶变换算法。本博客之前也已详细介绍过离散傅里叶变换（请参考：十、从头到尾彻底理解傅里叶变换算法、上，及十、从头到尾彻底理解傅里叶变换算法、下），这次咱们从多项式乘法开始，然后介绍FFT算法的原理与实现。同时，本文虽涉及到不少数学公式和定理（当然，我会尽量舍去一些与本文咱们要介绍的中心内容无关的定理或证明，

利用二分逼近法(bisection method) ，解析800多万IP 只需几十秒， 比较高效！原来的顺序查找算法 效率比较低 readonly string ipBinaryFilePath = "qqzengipdb.dat"; readonly byte[] dataBuffer, indexBuffer; readonly uint

简介：ClickHouse是近年来备受关注的开源列式数据库，主要用于数据分析（OLAP）领域。目前国内社区火热，各个大厂纷纷跟进大规模使用❞ClickHouse是近年来备受关注的开源列式数据库，主要用于数据分析（OLAP）领域。目前国内社区火热，各个大厂纷纷跟进大规模使用： 今日头条 内部用ClickHouse来做用户行为分析，内部一共几千个ClickHouse节点，单集群最大1200节点，总数据量几十PB，日增原始数据300TB左右。 腾讯内部用ClickHouse做游戏数据分析，.

...

导读：随着业务的迅猛增长，Yandex.Metrica目前已经成为世界第三大Web流量分析平台，每天处理超过200亿个跟踪事件。能够拥有如此惊人的体量，在它背后提供支撑的ClickHouse功不可没。ClickHouse已经为Yandex.Metrica存储了超过20万亿行的数据，90%的自定义查询能够在1秒内返回，其集群规模也超过了400台服务器。虽然ClickHouse起初只是为了Yandex.Metrica而研发的，但由于它出众的性能，目前也被广泛应用于Yandex内部其他数十个产品上。初识Cli

业务背景：就是做用户增长，提升dau主要是通过使用clickhouse来挖掘数据，供业务决策，你的策略是否有效需要数据支持，数据驱动业务增长 app新发版之后，发现dau下降，这时候正常的操作就是，是不是发版的问题，其实这么思考确实没有错，因为你的app版本会影响dau的埋点和上报，会带来dau统计降低当然这么断然决定app版本升级带来的问题，也是一种猜测，需要数据提供支持陈星团队通过数据分析发现，老用户留存率依然很高，只是新用...

业务背景：大家都知道，广告对于很多互联公司来说，都是主要的收入，当然字节跳动也是如此。目前clickhouse在字节跳动在线服务和离线服务都有所涉及。下面来给大家分享一下clickhouse在dmp（Data Management Platform数据管理平台）和cdp（customer-data-platform顾客信息平台）中的应用。人群预估：广告组根据一定的筛选条件，来确定当前投放可以营销到多少人来辅助投放，进而可以确定花费预算，因为是在线的业务，一般计算时间不能超过5s。..