CS224笔记-第一讲-深度自然语言处理

最新推荐文章于 2024-06-18 17:58:03 发布
原创 最新推荐文章于 2024-06-18 17:58:03 发布 · 284 阅读 · 0 ·
CC 4.0 BY-SA版权
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。

本文探讨了自然语言处理(NLP)的交叉学科属性，涉及计算机科学、人工智能及语言学。详细介绍了NLP的目标，即使计算机能理解、分析、生成人类自然语言，并概述了NLP的层次结构。此外，文章列举了NLP在拼写检查、文本分类、情感分析、机器翻译、对话系统等领域的广泛应用。

slides链接

what is natural language processing?

natural language processing是下面学科的交叉

  • 计算机
  • 人工智能
  • 语言学
    目标：

让计算机理解自然语言

让计算机理解和表示自然语言是一个很难的目标

NLP level

NLP层次
上图是NLP的层次，输入分别是语音和文本,经过语音分析或分词,然后经过词性分析、句法分析、语义分析、输出到不同的任务中去。

NLP应用

包括：

  • 拼写检查 关键字搜索 同义词
    • 从网站提前信息（爬虫）
    • 文本分类 情感分析
    • 机器翻译
    • 对话系统
    • 复杂问答系统

商业上应用

  • 搜索引擎
  • 在线的广告匹配
  • 自动(辅助)翻译
  • 情感分析辅助金融市场分析
  • 语音识别
  • 聊天机器人（智能客服）
斯坦福CS224n-第一课笔记 自然语言处理与深度学习简介
一个小白
10-28 639
【斯坦福CS224n的第一课视频笔记】 1. 什么是自然语言处理 这是一门计算机科学、人工智能以及语言学的交叉学科。虽然语言只是人工智能的一部分（人工智能还包括计算机视觉等），但它是非常独特的一部分。这个星球上有许多生物拥有超过人类的视觉系统，但只有人类才拥有这么高级的语言。 自然语言处理的目标是让计算机处理或说“理解”自然语言，以完成有意义的任务，比如订机票购物或Q...
《深度学习进阶：自然语言处理(第3章)》-读书笔记
weixin_52128497的博客
04-11 1631
基于计数的方法根据一个单词周围的单词的出现频数来表示该单词。具体来说，先生成所有单词的共现矩阵，再对这个矩阵进行 SVD，以获得密集向量（单词的分布式表示）。在现实世界中，语料库处理的单词数量非常大，使用基于计数的方法就需要生成一个庞大矩阵，但对如此庞大的矩阵执行 SVD 显然是不现实的。基于推理的方法的主要操作是“推理”。当给出周围的单词（上下文）时，预测“？”处会出现什么单词，这就是推理。基于推理的方法引入了某种模型，我们将神经网络用于此模型。
CS224n自然语言处理算法笔记目录
最新发布
sheldor的博客
06-18 591
seq2seq（softmax去预测output beam search）以及词向量表示的训练 CBOW skip-gram。的思路 从ont-hot 到 word2vec。一词多义问题（后续见得不多 这里不做过多了解）（我理解为Tokenizer的的训练过程）RNN神经网络（有点老，暂时不详细了解）NER（命名实体识别）任务。
cs224n笔记-1 NLP和自然语言处理
ly233的博客
03-30 376
1. 什么是自然语言处理 NLP与计算语言学（computational linguistics）同义 目标：让计算机理解世界 语言层次： 形态分析（Morphological analysis）,单词的前后缀等 句法分析（Syntactic analysis）理解句子结构，主语啊，宾语啊等等，包括词性以及位置等 语义解释（semantic interpret...
读书笔记：深度学习进阶-自然语言处理（俗称鱼书二）
博客而已
01-13 2462
还记得半年前开始看并给鱼书一做笔记的热情，现在想进一步了，作者和翻译作者都非常高效给力了，那么快就出了第二本鱼书-《深度学习进阶-自然语言处理》，本书一共八章，希望每周可以看完并完成一个章节的笔记，深度学习冲冲冲~在啃第一本鱼书的时候，是采用了先看在总结的方式，这次看第二本决定边看边总结，看完一遍可能还得回去再看第二遍，希望这次边学边思的效率高些，加油加油！自然语言处理是让计算机处理自然语言的技术。
【CS224n】1斯坦福大学深度学习自然语言处理课程笔记
YoungSeng's Blog
02-01 1115
Natural Language Processing with Deep Learning 课程笔记11. 课程简介2. Introduction and Word Vectors1. The course我们希望教什么？作业计划2. Human language and word meaning同义词集WordNet用离散的符号来表示单词通过上下文来表示词语3. Word2vec introduction (15 mins)4. Word2vec objective function gradients
Stanford CS224n 第一讲：深度自然语言处理
u011828519的博客
10-28 1215
第一节课主要是介绍了NLP（尤其是Deep NLP）的背景知识。 主要有一下几点： 什么是NLP？ NLP的应用 NLP的难点 Machine Learning vs. Deep Learning 接下来，根据课程视频+自己的理解，我将一一详细介绍以上的4部分。 1. 什么是NLP？ Natural language processing (NLP) 是 计算机科学+AI+语言学 的交叉产物；...
CS224n课堂笔记1-自然语言处理与深度学习简介
sunyueqinghit的博客
07-22 485
大二升大三,选了自然语言处理方向,实验室带我的博士学长推荐先学习CS224n这门课,很喜欢国外的课程,虽然我听力不怎么的….. 课程相关 精通Python: 所有课程作业均采用Python语言。 多元微积分，线性代数（例如，MATH 51，CME 100） 基本概率和统计（例如CS 109或其他统计课程） 机器学习的基础知识（例如，来自CS229或CS2...
斯坦福大学-自然语言处理与深度学习（CS224n） 笔记 第五课 反向传播与项目指导
苏三慎的博客
11-05 989
课程概要 1、反向传播 2、针对反向传播的不同观点 3、项目指导 一、反向传播的解释一 任务：和上一课一样，判断中心词是否是一个命名实体地点，窗口定义和最后一层的函数都是一样的 结构：含有两个隐层 ...
CS224d深度学习自然语言处理课程笔记
- CS224d-Lecture1.pdf: 课程的第一讲可能介绍了NLP和深度学习的基本概念，包括什么是NLP，为什么NLP重要，以及深度学习如何在NLP中发挥作用。 - CS224d-Lecture2.pdf: 第二讲可能聚焦于深度学习的基础，可能包括...
【从零开始】CS224W-图机器学习-2021冬季学习笔记6.1 Graph Neural Networks 1: GNN Model——深度学习基础
leisongyuan的博客
08-18 577
本文对图神经网络模型GNN做了简单介绍，着重介绍了机器学习模型的建立和训练过程，了解了梯度下降算法、反向传播等深度学习基础知识
【笔记3-6】CS224N课程笔记 - RNN和语言模型
cindy_1102的博客
04-07 1833
CS224N（六）Recurrent Neural Networks and Language Models 【笔记3-1】CS224N - 深度自然语言处理 【笔记3-2】CS224N - 词向量表示 word2vec 【笔记3-3】CS224N - 高级词向量表示 【笔记3-4】CS224N - 分类与神经网络 【笔记3-5】CS224N - 依存分析 CS224n：深度学习的自然语言处理...
NLP面试题目汇总1-5
热门推荐
兰陵鸡王的博客
01-14 2万+
1.有哪些文本表示模型，它们各有什么优缺点？ 文本表示模型是研究如何表示文本数据的模型，输入是语料库(文档)。 知识点： 词袋模型 TF-IDF N-gram 词袋模型与N-gram 最基本的文本表示模型是词袋模型(Bag of Words)。基本思想是把每篇文章看成一袋子词，并忽略每个词出现的顺序。具体来看：将整段文本表示成一个长向量，每一维代表一个单词。该维对应的权重代表这个词在原文章中的...
Bi-LSTM-CRF算法详解-1
兰陵鸡王的博客
03-03 1万+
第1节 介绍 1.介绍 Bi-LSTM-CRF算法是目前最为流行的NER算法。 BiLSTM和CRF可以看做NER模型中的两个不同层 1.1 开始之前 假设我们有一个数据集，其中有两种实体类别：Person和Organization。对于每一个类别又分为开始单词和中间单词，所以就有了5种类别。 B-Person （Person的第一个单词) I- Person ...
NLP面试题目6-10
兰陵鸡王的博客
01-14 8300
6.LSTM中各模块分别使用什么激活函数，可以使用别的激活函数吗？ 激活函数选取   关于激活函数的选取。在LSTM中，遗忘门、输入门、输出门使用Sigmoid函数作为激活函数；在生成候选记忆时，使用双曲正切函数Tanh作为激活函数。   值得注意的是，这两个函数都是饱和的，也就是在输入达到一定值的情况下，输出不会发生明显变化。如果是非饱和的激活函数，比如ReLU,那么就难以实现门控的效果。 ...
NLP面试题目16-20
兰陵鸡王的博客
01-15 5723
16.决策树有哪些常用的启发函数？如何对决策树进行剪枝？ 引言   决策树是一种自上向下，对样本数据进行树形分类的过程。结点分为内部结点和叶节点。每个内部结点代表一个特征，叶节点代表类别。从顶部根节点开始，所有样本聚在一起。经过根节点的划分，样本被划分到不同子节点，再根据子节点特征进一步划分，直到所有样本都被归到某一个类别(叶节点)。   决策树可用于分类与回归问题，应用于集成学习可得到随机森林、...
NLP面试题目汇总11-15
兰陵鸡王的博客
01-15 4125
10.知道哪些命名实体识别算法？具体的优缺点？（Bi-LSTM-CRF） 参考链接-机器之心 NER简介   命名实体识别是自然语言处理中的一项基本任务。命名实体一般指文本中具有特定意义或指代性强的实体。通常包括人名、地名、组织机构名、日期时间、专有名词等。NER系统就是从非结构化的输入文本中抽取出上述实体，并且可以按照业务需求识别出更多类别的实体。   [地位]NER可以看作词法分析中未登录词识...
平安科技实习生面试经历
兰陵鸡王的博客
01-16 4021
主要是结合简历来看。对应于Neo4j、Python以及机器学习 问题记录 自我介绍 项目介绍 Python sort 按照dict 长度排序 sort(key)中应用一个lambda表达式 Cypher 查找不存在就并删除 merge Java中list的arraylist 和hashlist 的区别是什么？ D3 内部用的什么类 force Python 传值还是传参 贝叶...
NLP面试题目21-25
兰陵鸡王的博客
01-15 3243
21.LR和SVM的联系与区别？ 联系： 1、LR和SVM都可以处理分类问题，且一般都用于处理线性二分类问题（在改进的情况下可以处理多分类问题） 2、两个方法都可以增加不同的正则化项，如L1、L2等等。所以在很多实验中，两种算法的结果是很接近的。 区别： 1、LR是参数模型，SVM是非参数模型。 2、从目标函数来看，区别在于逻辑回归采用的是Logistical Loss，SVM采用的是hinge ...
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
红包 添加红包
表情包 插入表情
表情包 代码片
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值