专栏

计算bert参数量

我今天的文章，不贴出具体的函数图像，就来给大家提供一种快速判断图像凹凸性的思路。当每个同学在学习数据结构与算法的时候，始终有一个幽灵在伴随着每个同学，就是时间复杂度，据说是高纳德发明的东西，这个东西说白了就是当数据量增多一个算法所用的时间的变化的快慢。常见的时间复杂度是：1、logx、x2、x3等等。从这些图像可以看出来，即使一个函数在初始时刻的值较小，那么经过一段时间以后，x^3的一定会后来居上。说明高阶的函数的增加一定很快，如果套用了高中的物理概念，一定是加速度较大。加速度是什么？物理中是这么写的：

https://www.cnblogs.com/xiaohuiduan/category/1770037.htmlDQN入门教程DQN（Deep Q-learning）入门教程（结束）之总结摘要：emm，花了一周时间完成了DQN的从入门到入土，这个系列是完完全全的入门系列，因为讲的内容很简单，内容也比较少，仅仅是一个最基本的介绍。 我也是因为偶然的原因才接触到强化学习，然后觉得很有意思，比较好奇它是怎么做到的，于是就花了一段时间去了解，接着就将自己的入门过程就写下来了。 这个系列相比较与数据阅读全文

实体识别和关系抽取的联合模型multihead_joint_entity_relation_extraction项目增加VAT原有项目中只有对抗训练的代码，但是对抗训练的效果还是没用虚拟对抗训练的效果更好，研究了几天的算法，终于加上了虚拟对抗训练的代码，有问题可以留言讨论。###########################虚拟对抗训练########################### # 虚拟对抗训练 ner_score_logits, relations_probas

https://www.jianshu.com/p/bddf0641970cCRF的实现-tensorflow版本不分享的知识毫无意义0.0762020.03.14 17:33:26字数 1,039阅读 5880.前言CRF的原理已经够难理解了，需要解决的问题主要包括三大块：概率计算问题，前向—后向算法，是一个递推公式，这个和hmm是一样的。学习问题，这是判别式模型必须要有的东西，得训练参数，常用的方法是改进的迭代尺度法，拟牛顿法。预测问题，维特比算法，这是个动态规划方法，hmm和crf

import tensorflow as tffrom tensorflow.examples.tutorials.mnist import input_dataimport numpy as npfrom skimage.io import imsaveimport osimport shutil# mnist 数据集读取进来mninst=input_data.read_data_...

# -*- coding: utf-8 -*-import tensorflow as tffrom tensorflow.examples.tutorials.mnist import input_datamnist = input_data.read_data_sets("mnist/", one_hot=True)# 定义回归模型X = tf.placeholder(tf.f...

写APP虫会需要用到哪些工具呢？https://github.com/locoz666/spider-article/tree/master/%E5%86%99APP%E7%88%AC%E8%99%AB%E4%BC%9A%E9%9C%80%E8%A6%81%E7%94%A8%E5%88%B0%E5%93%AA%E4%BA%9B%E5%B7%A5%E5%85%B7%E5%91%A2%EF%BC%9...

机器学习里的 kernel 是指什么？先给个定义：核函数K（kernel function）就是指K(x, y) = <f(x), f(y)>，其中x和y是n维的输入值，f(·) 是从n维到m维的映射（通常而言，m>>n）。<x, y>是x和y的内积（inner product），严格来说应该叫欧式空间的标准内积，也就是很多人常说的点积（dot product...

决策树系列（一）——基础知识回顾与总结 1.决策树的定义      树想必大家都会比较熟悉，是由节点和边两种元素组成的结构。理解树，就需要理解几个关键词：根节点、父节点、子节点和叶子节点。      父节点和子节点是相对的，说白了子节点由父节点根据某一规则分裂而来，然后子节点作为新的父亲节点继续分裂，直至不能分裂为止。...

雷锋网(公众号：雷锋网)按：本文原作者射命丸咲，原载于其知乎专栏Python与机器学习。（这里是本...

雷锋网按：本文作者甄冉冉，原文载于作者个人博客，雷锋网(公众号：雷锋网)已获授权。什么是感知机感知...

马尔科夫模型-前向算法本博客主要编写在马尔科夫链中用到的前向算法的代码，具体理论设计请参考这个博客：也可以参考我自己的博客文章《维特比算法》，代码如下：代码块代码块语法遵循标准markdown代码，例如：# -*- coding: utf-8 -*-from collections import defaultdictstates = ...

如何感性地理解EM算法？参考自：如何感性地理解EM算法 如果使用基于最大似然估计的模型，模型中存在隐变量，就要用EM算法做参数估计。个人认为，理解EM算法背后的idea，远比看懂它的数学推导重要。idea会让你有一个直观的感受，从而明白算法的合理性，数学推导只是将这种合理性用更加严谨的语言表达出来而已。打个比方，一个梨很甜，用数学的语言可以表...

欢迎使用Markdown编辑器写博客本文主要写一个关于维特比算法的代码，具体理论请参考一文搞懂HMM（隐马尔可夫模型）：  HMM（隐马尔可夫模型）是用来描述隐含未知参数的统计模型，举一个经典的例子：一个东京的朋友每天根据天气{下雨，天晴}决定当天的活动{公园散步,购物,清理房间}中的一种，我每天只能在twitter上看到她发的推“啊，我前天公园散步、昨天购物、今天清理房间了！”，那么我可...

保姆韦尔奇方法Baum-Welch本例中的代码为用保姆韦尔奇方法实现的机器学习算法，请轻拍# -*- coding:utf-8 -*- import sys# alpha函数def alpha(A, B, PI, O): a = [[0 for _ in range(len(A))] for _ in range(len(O))] # 设置初始化的值 f...

原标题：【干货】如何向5岁小孩解释什么是支持向量机（SVM）？ 强迫症患者 必学武功 今天，本来高高兴兴，超模君选了几本书，让实习生小天在“脸盲大叔”的店里下单。下午就收到货了，准备开封。 打开快递，还以为买的《what if？》的书是上下册。 定睛一看，同一本书，小天下单买了两本！！！ 。。。。。。。。。 言归正传，超...

转载自[这里](https://www.cnblogs.com/en-heng/p/5965438.html) 【十大经典数据挖掘算法】SVM 【十大经典数据挖掘算法】系列C4.5K-MeansSVMAprioriEMPageRankAdaBoost...

转载自：[https://www.jianshu.com/p/c7e642877b0e](https://www.jianshu.com/p/c7e642877b0e) 梯度下降的场景假设梯度梯度下降算法的数学解释梯度下降算法的实例梯度下降算法的实现Further reading本文将从一个下山的场景开始，先提出...

# -*- coding:utf-8 -*-import numpy as npimport mathm = 20X = [[1, 1], [1, 2,], [1, 3,], [1, 4,], [1, 5,], [1, 6,], [1, 7,], [1, 8,], [1, 9,], [1,10,]...

干货 | 一文搞懂极大似然估计 极大似然估计，通俗理解来说，就是在假定整体模型分布已知，利用已知的样本结果信息，反推最具有可能（最大概率）导致这些样本结果出现的模型参数值！ 换句话说，极大似然估计提供了一种给定观察数据来评估模型参数的方法，即：“模型已定，参数未知”。 可能有小伙伴就要说了，还是有点抽象呀。我们这样想，一当模型满足某个分布，它...