饮冰学徒的日记

这是一个瞎扯淡自然语言处理的系列，讲讲自己的经历以及自然语言处理的基本知识，或片面或错误，纯属扯淡。我和自然语言处理的缘分，开始于17年吧，那时候马上要毕业了，发现自己啥也不会，刚好有个师兄在大米做聊天机器人，可以内推。于是开始抱佛脚，一开始觉得还挺有意思的，反正自己平时也喜欢看yy小说，我想这大概是有益处的。大概学习一个新领域，总是会去先读一篇概述，理解这个领域是要解决什么问题，目前进展如何，相关的算法有哪些，balala…一通名词下来，似懂非懂。什么是自然语言处理一言以蔽之，通过计算机处理人类语

但凡谈及自然语言处理，我们都会想到词向量，那么怎么快速地获得词向量呢？最简单的方法就是word2vec。本文不深究word2vec的原理，网上很多细致深入的解读，大家可以自行搜索。今天总结一下如何快速训练自己的词向量，作为参考个人的手册。####1、 语料丰富、高质量的语料是词向量成功第一步。前两天学到一个名词，叫自监督学习，word2vec就是其中一种。自己监督自己，很容受到噪声的干扰，如果数据不干净，结果也会谬以千里。word2vec虽然不是统计算法，但是训练过程中很大程度上在理解上下文，在理解

https://github.com/huseinzol05/NLP-Models-Tensorflow nlp模型demo大集合，非常适合入门的朋友学习https://github.com/Morizeyao/GPT2-Chinese GPT2 预训练模型，想要日更上百的朋友你还犹豫什么？https://github.com/ChineseGLUE/ChineseGLUE中文自然语言处理标准测试，你的模型效果怎么样拉出来溜溜啊？这里有标准的数据集，最新的top算法结果，就看你能不能超越了？htt.

背景话说两年前我一脸蒙圈地开始了自己文本挖掘的职业生涯，领导给我的第一个任务就是文本分类任务。小伙伴手把手教我怎么来做一个三分类任务，上手还挺快，正能量爆炸，原来这就自然语言处理，也没有那么复杂吗？无知者无畏。自然语言处理博大精深，越到细节处越是难，一不小心就从入门到放弃了。一个好的新手任务是入门到深入的前提，而文本分类任务就是一个很不错的选择，保准给你打满鸡血，至于能不能坚持到最后？就暂时不是我们关心的问题。万事开头难，好的开头有好结尾的概率会高一点。不啰嗦，回归正题开始胡说八道。什么是文本分类分