<?xml version="1.0" encoding="utf-8" ?><rss version="2.0"><channel><title><![CDATA[小白的专栏]]></title><description><![CDATA[]]></description><link>https://blog.youkuaiyun.com/u010366748</link><language>zh-cn</language><generator>https://blog.youkuaiyun.com/</generator><copyright><![CDATA[Copyright &copy; u010366748]]></copyright><item><title><![CDATA[实体链指（3）EL：End-to-End]]></title><link>https://blog.youkuaiyun.com/u010366748/article/details/126691127</link><guid>https://blog.youkuaiyun.com/u010366748/article/details/126691127</guid><author>u010366748</author><pubDate>Sun, 04 Sep 2022 21:18:25 +0800</pubDate><description><![CDATA[前面已经由一篇综述大致了解了Entity Linking的定义和任务框架，以及对Disambiguation-Only 的2篇具有代表性的论文进行了介绍，本篇主要介绍End-to-End的两篇代表性论文。]]></description><category></category></item><item><title><![CDATA[实体链指（2）EL：Disambiguation-Only]]></title><link>https://blog.youkuaiyun.com/u010366748/article/details/126686525</link><guid>https://blog.youkuaiyun.com/u010366748/article/details/126686525</guid><author>u010366748</author><pubDate>Sun, 04 Sep 2022 16:47:40 +0800</pubDate><description><![CDATA[本篇主要了介绍了Disambiguation-Only实体链指任务的具有代表性的2篇论文：《Neural Cross-Lingual Entity Linking》和《Scalable Zero-shot Entity Linking with Dense Entity Retrieval》]]></description><category></category></item><item><title><![CDATA[实体链指（1）Entity Linking 综述]]></title><link>https://blog.youkuaiyun.com/u010366748/article/details/126680220</link><guid>https://blog.youkuaiyun.com/u010366748/article/details/126680220</guid><author>u010366748</author><pubDate>Sat, 03 Sep 2022 18:59:48 +0800</pubDate><description><![CDATA[实体链接（entity linking）任务是指识别出文本中的提及（mention）、确定mention的含义并消除其可能存在的歧义，然后建立该mention到 知识库（KB）中实体（entity）的链接，从而将非结构化数据连接到结构化数据的过程。]]></description><category></category></item><item><title><![CDATA[transformer（下）机器翻译+pytorch实现]]></title><link>https://blog.youkuaiyun.com/u010366748/article/details/111269231</link><guid>https://blog.youkuaiyun.com/u010366748/article/details/111269231</guid><author>u010366748</author><pubDate>Sun, 07 Mar 2021 14:05:03 +0800</pubDate><description><![CDATA[transformer（下）机器翻译（pytorch实现）说在前面实验环境1.加载数据 建立input pipeline2.位置编码 positional encoding3.掩码 masking4.scaled dot product attention5.multi-head attention6.point wise feed forward network7.encoder layer8.decoder layer9.encoder10.decoder11.搭建transformer12.设置超参1]]></description><category></category></item><item><title><![CDATA[论文笔记-Vanilla Transformer：Character-Level Language Modeling with Deeper Self-Attention]]></title><link>https://blog.youkuaiyun.com/u010366748/article/details/114301942</link><guid>https://blog.youkuaiyun.com/u010366748/article/details/114301942</guid><author>u010366748</author><pubDate>Wed, 03 Mar 2021 12:37:48 +0800</pubDate><description><![CDATA[论文笔记-Vanilla Transformer：Character-Level Language Modeling with Deeper Self-Attention1. 介绍2. Character Transformer Model3. 3种辅助loss3.1 Multiple Positions3.2 Intermedia Layer Losses3.3 Multiple Targets4. 实验4.1 训练和数据4.2 结果（消融实验）4.3 Qualitative Analysis 定性分析参]]></description><category></category></item><item><title><![CDATA[统计机器学习相关概念总结（下）]]></title><link>https://blog.youkuaiyun.com/u010366748/article/details/113829508</link><guid>https://blog.youkuaiyun.com/u010366748/article/details/113829508</guid><author>u010366748</author><pubDate>Tue, 16 Feb 2021 23:28:22 +0800</pubDate><description><![CDATA[统计机器学习相关概念总结（下）5. 泛化能力5.1 泛化误差5.2 泛化误差上界6. 生成模型与判别模型7. 方差与偏差8. 多分类学习9. 类别不均衡（class-imbalance）问题完整代码地址参考
ML相关概念总结系列文章：

统计机器学习相关概念总结（上）
统计机器学习相关概念总结（中）
统计机器学习相关概念总结（下）


5. 泛化能力
5.1 泛化误差
泛化误差：学到的模型对未知数据预测的误差：
Rexp(f^)=Ep[L(Y,f^(X))]=∫X×YL(Y,f^(X))P(x,y)dxdy]]></description><category></category></item><item><title><![CDATA[统计机器学习相关概念总结（中）]]></title><link>https://blog.youkuaiyun.com/u010366748/article/details/113829373</link><guid>https://blog.youkuaiyun.com/u010366748/article/details/113829373</guid><author>u010366748</author><pubDate>Tue, 16 Feb 2021 23:13:36 +0800</pubDate><description><![CDATA[统计机器学习相关概念总结（中）4. 模型评估与模型选择4.1 模型评估分类问题评估（1）error rate（2）accuracy（3）precision &amp; recall（4）P-R曲线（5）F1值 &amp; FβF_\betaFβ​（6）宏平均（macro-avg）&amp; 微平均（micro-avg）（7）ROC曲线 &amp; AUC回归问题评估4.2 模型选择（1）正则化（2）交叉验证完整代码地址参考
ML相关概念总结系列文章：

统计机器学习相关概念总结（上）
统计机器学习相关概念总]]></description><category></category></item><item><title><![CDATA[统计机器学习相关概念总结（上）]]></title><link>https://blog.youkuaiyun.com/u010366748/article/details/113829064</link><guid>https://blog.youkuaiyun.com/u010366748/article/details/113829064</guid><author>u010366748</author><pubDate>Tue, 16 Feb 2021 23:08:23 +0800</pubDate><description><![CDATA[统计机器学习相关概念总结（上）1. 统计学习分类1.1 基本分类（1）监督学习（2）无监督学习（3）强化学习1.2 按模型种类分类（1）概率模型与非概率模型（2）线性模型与非线性模型1.3 按算法分类（1）在线学习（2）批量学习1.4 按技巧分类（1）贝叶斯学习（2）核方法2. 统计学习三要素2.1 模型2.2 策略（学习的准则）2.2.1 损失函数和风险函数损失函数的期望2.2.2 经验风险最小化与结构风险最小化（1）经验风险最小化（2）结构风险最小化2.3 算法3. 监督学习方法特点总结完整代码地址参考]]></description><category></category></item><item><title><![CDATA[集成学习原理小结（AdaBoost & lightGBM demo）]]></title><link>https://blog.youkuaiyun.com/u010366748/article/details/113816465</link><guid>https://blog.youkuaiyun.com/u010366748/article/details/113816465</guid><author>u010366748</author><pubDate>Mon, 15 Feb 2021 17:30:12 +0800</pubDate><description><![CDATA[集成学习原理小结（AdaBoost &amp; lightGBM demo）1. 集成学习概述1.1 集成学习是什么？1.2. 为什么要进行集成学习？2. 常见的集成学习算法2.1 Boosting2.1.1 AdaBoost算法算法描述算法说明算法训练误差分析学习算法—前向分步算法算法评价2.1.2 梯度提升树2.2 Bagging随机森林3. 常见的结合策略3.1 平均法3.2 投票法3.3 学习法（Stacking）4. 如何增强多样性？5. 代码示例5.1 AdaBoost demo5.2 ligh]]></description><category></category></item><item><title><![CDATA[BiLSTM-CRF实现中文命名实体识别（NER）]]></title><link>https://blog.youkuaiyun.com/u010366748/article/details/113784204</link><guid>https://blog.youkuaiyun.com/u010366748/article/details/113784204</guid><author>u010366748</author><pubDate>Thu, 11 Feb 2021 00:35:06 +0800</pubDate><description><![CDATA[BiLSTM-CRF实现命名实体识别（NER）完整代码地址参考
本博客中使用到的完整代码请移步至: 我的github：https://github.com/qingyujean/Magic-NLPer，求赞求星求鼓励~~~
HMM系列文章：
条件随机场（CRF）原理小结（1）
条件随机场（CRF）原理小结（2）
BiLSTM-CRF实现命名实体识别（NER）

完整代码地址
完整代码请移步至: 我的github：https://github.com/qingyujean/Magic-NLPer，求赞求星求鼓]]></description><category></category></item><item><title><![CDATA[条件随机场（CRF）原理小结（2）]]></title><link>https://blog.youkuaiyun.com/u010366748/article/details/113783526</link><guid>https://blog.youkuaiyun.com/u010366748/article/details/113783526</guid><author>u010366748</author><pubDate>Wed, 10 Feb 2021 17:34:05 +0800</pubDate><description><![CDATA[条件随机场（CRF）原理小结（2）6. 线性链CRF的3个基本问题6.1 问题1：概率计算问题6.1.1 前向-后向算法6.1.2  概率计算6.1.3 期望值的计算6.2 问题2：学习问题6.2.1 改进的迭代尺度法6.2.2 梯度下降法6.3 问题3：预测问题维特比算法描述模型评价完整代码地址参考
本博客中使用到的完整代码请移步至: 我的github：https://github.com/qingyujean/Magic-NLPer，求赞求星求鼓励~~~
HMM系列文章：
条件随机场（CRF）原理小结（]]></description><category></category></item><item><title><![CDATA[条件随机场（CRF）原理小结（1）]]></title><link>https://blog.youkuaiyun.com/u010366748/article/details/113781150</link><guid>https://blog.youkuaiyun.com/u010366748/article/details/113781150</guid><author>u010366748</author><pubDate>Wed, 10 Feb 2021 16:53:49 +0800</pubDate><description><![CDATA[条件随机场（CRF）原理小结（1）1. CRF学习方法简要概括2. 相关概念2.1 概率图模型2.1.1 有向概率图模型（贝叶斯网）2.1.2 无向概率图模型（马尔科夫网）2.1.3 有向图、无向图模型比较2.2 生成式模型 vs 判别式模型两种模型比较2.3 RF→\rightarrow→MRF→\rightarrow→CRF→\rightarrow→linear chain CRF2.3.1 随机场（RF）2.3.2 马尔科夫随机场（MRF）2.3.3 条件随机场（CRF）2.3.4 线性链条件随机场（]]></description><category></category></item><item><title><![CDATA[手撸HMM实现词性标注（Part-of-speech）]]></title><link>https://blog.youkuaiyun.com/u010366748/article/details/113563529</link><guid>https://blog.youkuaiyun.com/u010366748/article/details/113563529</guid><author>u010366748</author><pubDate>Tue, 02 Feb 2021 21:05:32 +0800</pubDate><description><![CDATA[手撸HMM实现词性标注（Part-of-speech）1. 环境准备2. 使用HMM 实现词性标注2.1 句子开始和结束标记2.2 问题2--HMM参数估计：统计词频计算概率（1）发射概率估计（2）转移概率估计（3）初始状态概率分布问题1--求解观测序列概率2.3 问题3--预测问题：vitervi算法实现（1）初始化（2）递推（3）终止（4）最优路径回溯完整代码地址
本博客中使用到的完整代码请移步至: 我的github：https://github.com/qingyujean/Magic-NLPer，求]]></description><category></category></item><item><title><![CDATA[隐马尔科夫模型（HMM）原理小结（2）]]></title><link>https://blog.youkuaiyun.com/u010366748/article/details/113573732</link><guid>https://blog.youkuaiyun.com/u010366748/article/details/113573732</guid><author>u010366748</author><pubDate>Tue, 02 Feb 2021 21:04:20 +0800</pubDate><description><![CDATA[隐马尔科夫模型（HMM）原理小结（2）4. 基本问题二：学习问题 模型参数估计 λ=(A,B,π)\lambda=(A,B,\pi)λ=(A,B,π)4.1 监督学习方法（1）转移概率aija_{ij}aij​的估计（2）观测概率bj(k)b_j(k)bj​(k)的估计（3）初始状态概率πi\pi_iπi​的估计4.2 无监督学习方法：Baum-Welch算法（EM）4.2.1 确定完全数据的对数似然函数4.2.2 E步：求QQQ函数Q(λ∣λˉ)Q(\lambda|\bar{\lambda})Q(λ∣λˉ]]></description><category></category></item><item><title><![CDATA[隐马尔科夫模型（HMM）原理小结（1）]]></title><link>https://blog.youkuaiyun.com/u010366748/article/details/113554958</link><guid>https://blog.youkuaiyun.com/u010366748/article/details/113554958</guid><author>u010366748</author><pubDate>Tue, 02 Feb 2021 21:02:44 +0800</pubDate><description><![CDATA[隐马尔科夫模型（HMM）原理小结1. 什么是马尔科夫链1.1 马尔科夫过程1.2 k阶马尔科夫链1.3 1阶马尔科夫链2. 什么是隐马尔可夫链（HMM）2.1 HMM基本定义2.2 HMM的2个基本假设（1）齐次马尔科夫性假设（2）观测独立性假设2.3 观测序列的生成过程2.4 HMM的3个基本问题3. 基本问题一：观测序列概率P(O∣λ)P(O|\lambda)P(O∣λ)计算3.1 直接计算3.2 前向算法3.3 后向算法3.4 前向-后向概率 统一表示P(O∣λ)P(O|\lambda)P(O∣λ)3]]></description><category></category></item><item><title><![CDATA[EM（Expectation Maximization）算法原理小结]]></title><link>https://blog.youkuaiyun.com/u010366748/article/details/113446070</link><guid>https://blog.youkuaiyun.com/u010366748/article/details/113446070</guid><author>u010366748</author><pubDate>Sat, 30 Jan 2021 21:16:28 +0800</pubDate><description><![CDATA[EM（Expectation Maximization）算法原理小结1. EM 算法1.2 为什么需要EM算法?1.2 EM 算法推导EM算法关键：下边界函数EM算法解释QQQ函数的定义EM算法1.3 算法总结参考
适用问题：概率模型参数估计
模型特点：含有隐变量的概率模型
模型类型：-
损失函数：对数似然损失
学习策略：极大似然估计，最大后验概率估计
学习算法：迭代算法
1. EM 算法
EM算法是一种 迭代算法，用于含有隐变量的概率模型参数的极大似然估计或极大后验概率估计。EM算法的每次迭代分2步：

]]></description><category></category></item><item><title><![CDATA[朴素贝叶斯（naive bayes）原理小结]]></title><link>https://blog.youkuaiyun.com/u010366748/article/details/113150864</link><guid>https://blog.youkuaiyun.com/u010366748/article/details/113150864</guid><author>u010366748</author><pubDate>Wed, 27 Jan 2021 22:59:17 +0800</pubDate><description><![CDATA[朴素贝叶斯原理小结1. 支持向量回归（SVR）分类算法2. 模型评价完整代码地址参考
本博客中使用到的完整代码请移步至: 我的github：https://github.com/qingyujean/Magic-NLPer，求赞求星求鼓励~~~
1. 支持向量回归（SVR）
分类算法


2. 模型评价
SVM系列至此就介绍完了，这里对该模型做一个评价总结。评价内容摘自刘建平老师的支持向量机原理(五)线性支持回归：
SVM算法是一个很优秀的算法，在集成学习和神经网络之类的算法没有表现出优越性能前，SVM基本]]></description><category></category></item><item><title><![CDATA[支持向量机（SVM）原理小结（3）支持向量回归SVR]]></title><link>https://blog.youkuaiyun.com/u010366748/article/details/113066051</link><guid>https://blog.youkuaiyun.com/u010366748/article/details/113066051</guid><author>u010366748</author><pubDate>Sun, 24 Jan 2021 04:51:33 +0800</pubDate><description><![CDATA[支持向量机（SVM）原理小结（3）支持向量回归SVR1. 支持向量回归（SVR）1.1 学习算法—对偶形式（1）求min⁡w,b,ξ,ξ^L(w,b,ξ,ξ^,α,α^,μ,μ^)\min\limits_{w,b,\xi,\hat\xi} L(w, b, \xi, \hat\xi, \alpha, \hat\alpha, \mu, \hat\mu)w,b,ξ,ξ^​min​L(w,b,ξ,ξ^​,α,α^,μ,μ^​)（2）求min⁡w,b,ξ,ξ^L(w,b,ξ,ξ^,α,α^,μ,μ^)\min\lim]]></description><category></category></item><item><title><![CDATA[支持向量机（SVM）原理小结（2）非线性支持向量机]]></title><link>https://blog.youkuaiyun.com/u010366748/article/details/113065986</link><guid>https://blog.youkuaiyun.com/u010366748/article/details/113065986</guid><author>u010366748</author><pubDate>Sun, 24 Jan 2021 04:32:36 +0800</pubDate><description><![CDATA[支持向量机（SVM）原理小结（2）非线性支持向量机1. 非线性支持向量机1.1 图示举例1.2 核技巧1.3 核技巧在支持向量机中的应用1.4 常用核函数1.5 学习算法1.6 联想：多项式回归（线性回归推广）2. 代码示例：使用非线性kernel SVM解决非线性问题完整代码地址参考
本博客中使用到的完整代码请移步至: 我的github：https://github.com/qingyujean/Magic-NLPer，求赞求星求鼓励~~~
1. 非线性支持向量机
什么是非线性分类问题：通过利用非线性模型]]></description><category></category></item><item><title><![CDATA[支持向量机（SVM）原理小结（1）线性支持向量机]]></title><link>https://blog.youkuaiyun.com/u010366748/article/details/112852999</link><guid>https://blog.youkuaiyun.com/u010366748/article/details/112852999</guid><author>u010366748</author><pubDate>Sun, 24 Jan 2021 03:58:29 +0800</pubDate><description><![CDATA[支持向量机（SVM）原理小结1. 线性可分支持向量机（硬间隔SVM）2. 线性支持向量机（软间隔SVM）3. 非线性支持向量机4. 支持向量回归（SVR）5. 代码示例6. 模型评价完整代码地址参考
本博客中使用到的完整代码请移步至: 我的github：https://github.com/qingyujean/Magic-NLPer，求赞求星求鼓励~~~
1. 线性可分支持向量机（硬间隔SVM）
线性可分训练数据集的最大间隔超平面是存在且唯一的。




2. 线性支持向量机（软间隔SVM）
3. 非线性]]></description><category></category></item></channel></rss>