《人工智能》之《自然语言理解》

人工智能-----自然语言处理(NLP)基础理解 人工智能的目标 - 推理 - 自动学习&调度 - 机器学习 - 自然语言处理 - 计算机视觉 - 机器人 - 通用智能 人工智能三大阶段 阶段 1——机器学习:智能系统使用一系列算法从经验中进行学习。 阶段 2——机器智能:机器使用的一系列从经验中进行学习的高级算法,例如深度神经网络。人工智能目前处于此阶段。 阶段 3——机器意识:不需要外部数据就能从经验中自学习。 人工智能的类型 ANI(狭义人工智能):它包含基础的、角. 阅读详情

教材:《人工智能及其应用》,蔡自兴等,2016m清华大学出版社(第5版)

参考书:
在这里插入图片描述

1 自然语言理解概述

1.1 什么是自然语言处理?

自然语言处理(Natural Language Processing,NLP)是用计算机通过可计算的方法对自然语言的各级语言单位(字、词、语句、篇章等等)进行转换、传输、存贮、分析等加工处理的理论和方法。
在这里插入图片描述

1.2 自然语言处理的发展历程

在这里插入图片描述

1.3 自然语言处理方法论

机器能够理解人的语言吗?
在这里插入图片描述
自然语言处理的两种主义:理性主义、经验主义。

  • 一种是以基于知识的方法为代表的理性主义方法,该方法以语言学理论为基础,强调语言学家对语言现象的认识,采用非歧义的规则形式描述或解释歧义行为或歧义特性。
  • 一种是以基于语料库的统计分析为基础的经验主义方法,该方法更注重用数学方法,从能代表自然语言规律的大规模真实文本中发现知识,抽取语言现象或统计规律。

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

1.4 自然语言理解的研究领域和方向

  • 文字识别(Optical character recognition,OCR)
  • 语音识别(Speech recognition)
  • 机器翻译(Machine translation)
  • 问答系统(Question answering system)
  • 自动文摘(Automatic summarization或automatic abstracting)
  • 信息检索(Information retrieval)
  • 语音合成(Speech synthesis)
  • 自然语言生成(Natural language generation)

1.5 自然语言处理的现状、难点与瓶颈

自然语言处理的现状:

  • 仍然缺乏理论基础
  • 词汇句法方面的问题尚未解决,已开始挑战语义、知识等深层课题
  • 语音识别中采用的统计语言模型推动了NLP的发展,目前的统计模型在向语言深层发展
  • 本体论( 知识图谱)受到普遍重视
  • Bert 、GPT3大数据深度学习取得突破性进展

自然语言处理的难点:

  • 歧义(ambiguity)
  • 病构(ill-formedness)

歧义

在这里插入图片描述
在这里插入图片描述

病构

在这里插入图片描述

自然语言处理的瓶颈:
在这里插入图片描述

1.6 语言与语言理解

自然语言是音义结合的词汇和语法体系。词汇是语言的基本单位,它在语法的支配下可构成有意义和可理解的句子,句子再按一定的形式构成篇章等。其结构如下图所示:
在这里插入图片描述
词汇是语言的基本单位。熟语是指一些词的固定组合,如汉语中的成语。词又由词素构成,词素是构成词的最小有意义的单位。如“学生”是由“学”和“生”这两个词素构成的。

语法是语言的组织规律。词法是用词素或熟语构成词的规则,可分为构形法和构词法。构形法是指单数复数等,学生,学生们。造句法是用词和词组构造句子的规则。

1.7 自然语言理解过程的层次

语言虽然表示成一连串的文字符号或者一串声音流,但其内部实际上是一个层次化的结构,从语言的构成中就可以清楚地看到这种层次性。

一个文字表达的句子是由词素→词或词形→词组或句子构成。

一个声音表达的句子则是由音素→音节→音词→音句构成。

其中每个层次都受到语法规则的制约。因此,语言的分析和理解过程也应当是一个层次化的过程。

1.7.1 语音分析

在这里插入图片描述

1.7.2 词法分析

在这里插入图片描述

1.7.3 句法分析

在这里插入图片描述
在这里插入图片描述

1.7.4 语义分析

研究如何从一个语句中词的意义,以及这些词在该语句中句法结构中的作用来推导出该语句的意义。
在这里插入图片描述

1.7.5 语用分析

研究在不同上下文中语句的应用,以及上下文对语句理解所产生的影响。从狭隘的语言学观点看,语用学处理的是语言结构中有形式体现的那些语境。
在这里插入图片描述

2 词法分析

在这里插入图片描述

3 句法分析

3.1 短语结构语法

在这里插入图片描述
在这里插入图片描述

3.2 乔姆斯基形式语法

在这里插入图片描述

上下文无关文法

上下文无关文法(Context-free Grammars)是乔姆斯基提出的一种对自然语言语法知识进行形式化描述的方法。在这种文法中,语法知识是用重写规则表示的。作为例子,下面给出了一个英语的很小的子集。
在这里插入图片描述
这就是一个英语子集的上下文无关文法。在该文法中,“语句”是一个特殊的非终极符,称为起始符。
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

3.3 转移网络

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
寻找各种可能的路径:

  1. 并行算法。并行算法的关键是在任何一个状态都要选择所有可以到达下一个状态的弧,同时进行试验。
  2. 回溯算法。回溯算法则是在所有可以通过的弧中选出一条往下走,并保留其他可能性,以便必要时可以回过来选择之。这种方式需要一个堆栈结构。

在这里插入图片描述

4 语义分析

在这里插入图片描述

4.1 语义分析的典型应用

4.1.1 机器翻译

在这里插入图片描述
统计翻译系统框架:Transformer
在这里插入图片描述

4.1.2 问答系统

在这里插入图片描述
在这里插入图片描述

4.1.3 语音识别

在这里插入图片描述

5 词向量表示

5.1 词向量的定义

词向量是自然语言中的词语在机器学习中的表示符号。

在这里插入图片描述

在这里插入图片描述

5.2 语言模型

在这里插入图片描述
近年来,人们在寻找最适合自然语言处理的模型上的探索:
在这里插入图片描述

5.3 各种词向量及其特点

在这里插入图片描述
词向量(又叫词嵌入)已经成为NLP领域各种任务的必备一步,而且随着 elmo, bert, gpt 等预训练模型的发展,词向量演变为知识表示方法。

5.3.1 word2vec

word2vec来源于2013年的论文《Efficient Estimation of Word Representation in Vector Space》.

核心思想:利用神经网络对词的上下文训练得到词的向量化表示。

训练方法:

  • CBOW(通过附近词预测中心词)
  • Skip-gram(通过中心词预测附近的词)

在这里插入图片描述

CBOW(Continuous Bag of Words)

基本思想:基于N-Gram,用词语w的上下文作为输入,预测中心词语w。

example:
我爱计算机,窗口为2时,训练集可以构造为:
输入:{我,爱,算,机}
输出:计

在这里插入图片描述
在这里插入图片描述
Skip-Gram

基本思想:基于N-Gram,用词语w作为输入,预测词语的上下文。

example:
我爱计算机,窗口为2时,训练集可以构造为
输入:{计} 输出:{我,爱,算,机}

在这里插入图片描述
Skip-Gram跟CBOW的原理相似,它的输入是目标词,先是将目标词映射为一个隐藏层向量,根据这个向量预测目标词上下文两个词。

CBOW和Skip-Gram对比:
在这里插入图片描述

人工智能(AI)自然语言理解的问题 在韩国首尔举行的围棋赛的中途,世界级顶尖围棋选手李世石和谷歌人工智能阿尔法狗的较量中,人工智能阿尔法狗走出了超越人类令人不安的神秘的一步棋。  在第37步,AlphaGo选择把一块黑色的棋子放在一开始就像一个荒谬的位置。它看起来肯定会放弃一个实质性的领域 - 这是围棋中控制棋盘空间的一个新手错误。两位电视评论员想知道他们是否误读了这一举措,或者机器出了故障。事实上,与传统智慧相反,第37步将使Al... 阅读详情

相关推荐

实现AI Agent的自然语言理解能力

随着人工智能技术的快速发展,AI Agent在各个领域的应用越来越广泛。自然语言理解(Natural Language Understanding,NLU)作为AI Agent的关键能力之一,旨在让机器能够理解人类语言的含义,实现人与机器之间更自然、高效的交互。本文的目的是深入探讨如何实现AI Agent的自然语言理解能力,涵盖从基础概念到算法原理,再到实际项目应用的全过程。范围包括常见的自然语言理解技术、相关的数学模型以及实际开发中的操作步骤和注意事项。

AI天才研究院 568

自然语言理解概述

在文章的开头,我必须说明,自然语言理解的定义、理论在网上有太多不同的说法,我在这里给出的是我个人认为比较好理解、能梳理清楚各个子领域的一种概述,如果有哪里出错了麻烦指正。 所谓自然语言理解,就是希望机器能像人类一样,具备理解语言的能力,就像另一半说没有生气,到底是真的没有生气还是气到肺都炸了,这就需要很高的语言理解能力了。 具体来说,我觉得自然语言理解要解决两个问题,第一个是理解什么,第二个是机...

jesseyule的博客 8833

探索AI原生应用领域自然语言理解的未来方向

当你对智能音箱说“明天早上下雨的话,帮我预约一辆7点的车”,它不仅能听懂“下雨”“预约车”“7点”这些关键词,还能关联“下雨→需要提前出门”的逻辑——这背后正是自然语言理解(NLU)的魔力。本文聚焦AI原生应用(专为AI能力设计的应用,而非传统软件的“AI补丁”)中的NLU技术,探讨其现状、核心技术及未来方向。

SuperAGI2025 913

自然语言理解(Natural Language Understanding, NLU)

自然语言理解(Natural Language Understanding, NLU)是自然语言处理(NLP)的一个子领域,专注于让计算机理解人类语言的含义。NLU 的目标是使计算机能够理解并处理人类的自然语言输入,像人类一样理解其中的语义和意图。它是实现人机交互、机器翻译、问答系统等应用的关键技术。

keyboard专栏 2156

构建具有自然语言理解能力的AI Agent

本文旨在探讨如何构建具有自然语言理解能力的AI Agent。自然语言理解是人工智能领域的一个重要研究方向,它涉及到语言模型、语义理解和情感分析等多个核心概念。AI Agent作为一种能够与人类自然交流的智能体,其自然语言理解能力是其实现有效交互的关键。本文将分步骤介绍自然语言理解的技术原理、AI Agent的框架与设计、自然语言处理技术以及如何构建具有情感理解的AI Agent。

AI天才研究院 969

自然语言理解如何重塑AI原生应用领域

本文旨在深入探讨自然语言理解技术的最新进展及其对AI原生应用领域的重塑作用。我们将覆盖从基础技术原理到实际应用案例的全方位内容,帮助读者理解这一技术革命的核心价值。文章将从自然语言理解的核心概念入手,分析其技术原理和实现方式,然后探讨其在各领域的应用案例,最后展望未来发展趋势和面临的挑战。自然语言理解(NLU):使计算机能够理解、解释和生成人类语言的技术AI原生应用:以人工智能为核心设计理念构建的应用程序大语言模型(LLM):基于海量文本数据训练的大型神经网络模型。

AI架构师小马 1057

自然语言理解与NaturalLanguageUnderstanding

1.背景介绍 自然语言理解(Natural Language Understanding,NLU)是一种计算机科学领域的技术,旨在让计算机能够理解和处理人类自然语言。这一技术在语音助手、机器翻译、文本摘要、情感分析等领域有广泛的应用。本文将从以下几个方面进行探讨: 背景介绍 核心概念与联系 核心算法原理和具体操作步骤以及数学模型公式详细讲解 具体最佳实践:代码实例和详细解释说明 实际应用场景...

AI天才研究院 1086

自然语言理解在AI原生应用领域的应用场景拓展

我们的目的是深入了解自然语言理解如何在AI原生应用领域拓展更多的应用场景。这里的范围涵盖了自然语言理解的基本原理、与AI原生应用的结合方式,以及在不同行业和场景中的具体应用。本文首先会介绍核心概念,包括自然语言理解和AI原生应用是什么,它们之间有什么关系。然后讲解自然语言理解的算法原理、数学模型,还会给出实际的代码案例。接着探讨自然语言理解在不同场景中的应用,推荐相关工具和资源。最后分析未来的发展趋势与挑战,进行总结并提出思考题。自然语言理解:简单来说,就是让计算机像人一样理解人类说的话。

AI架构师小马 964

ai人工智能开发语言_自然语言理解过程| 人工智能

ai人工智能开发语言Natural Language understanding, as we already know is one of the two main components of the Natural Language Processing (NLP) system. As we all know that a communicating agent is also a mach...

955

如何在AI原生应用领域提升自然语言理解能力

在当今数字化时代,AI原生应用如聊天机器人、智能客服、语音助手等越来越普及。自然语言理解能力是这些应用的核心竞争力之一,它决定了AI能否准确理解人类的意图并做出恰当的回应。本文的目的就是帮助开发者、研究者以及对AI感兴趣的人士了解如何在AI原生应用领域提升自然语言理解能力。我们将涵盖从基础概念到实际应用的各个方面,包括核心算法、数学模型、项目实战等内容。核心概念与联系:介绍自然语言理解的核心概念,如语义理解、上下文处理等,并阐述它们之间的关系。

AI天才研究院 886

深入剖析AI原生应用领域的自然语言理解

本文旨在系统性地介绍自然语言理解(NLU)在AI原生应用中的核心技术和实现原理。我们将覆盖从基础概念到高级应用的全栈知识,特别关注深度学习时代的最新进展。核心概念与联系:建立对自然语言理解的基本认识算法原理与实现:深入技术细节,包括代码示例应用场景与案例:展示实际应用价值未来趋势与挑战:探讨发展方向自然语言理解(NLU):计算机理解人类语言含义的能力词嵌入(Word Embedding):将词语表示为数值向量的技术注意力机制(Attention Mechanism)

SuperAGI2025 761

深入了解AI大模型在自然语言理解中的应用

1.背景介绍 1. 背景介绍 自然语言处理(NLP)是人工智能领域的一个重要分支,旨在让计算机理解、生成和处理人类语言。自然语言理解(NLU)是NLP的一个重要子领域,旨在让计算机理解人类自然语言的含义。随着数据规模和计算能力的不断增长,AI大模型在自然语言理解中的应用逐渐成为主流。本文将深入探讨AI大模型在自然语言理解中的应用,并分析其优缺点。 2. 核心概念与联系 2.1 AI大模型 ...

AI天才研究院 1082

人工智能蔡自兴课件 PPT

人工智能及其应用第四版,最新版本课程使用课件,适合期末复习

解锁AI原生应用,自然语言理解的奥秘

你有没有这样的经历:对着智能音箱说"放点轻松的音乐",它却播了重金属?或者在购物APP里搜"夏天穿的透气鞋子",结果全是冬天的棉鞋?这些"鸡同鸭讲"的背后,是传统应用的"硬伤"——它们只能理解"关键词",却读不懂"人话"的真正含义。而今天,我们要聊的"AI原生应用"(比如ChatGPT、Claude、国产的文心一言)却像突然"开了窍":你说"帮我订明天去上海的机票,最好是上午且靠窗的",它不仅能订机票,还会主动问你"需要同时预约接机服务吗?

Agentic AI人工智能与大数据正在引领一场新智能科技革命。 1159

ffmpeg中av_read_frame阻塞的原因与解决方案

最近用到ffmpeg,想要av_read_frame立即返回,但是看网上的博客,都没有详细的解说,那就自己看源码。 两种方法: 设置回调打断函数和设置超时 超时,但是如果只设置该参数,依然会在av_read_frame中阻塞, av_dict_set(&inputDic, "stimeout", "2*1000*1000", 0); // milliseconds //打断回调 m_avformatCtx->interrupt_callback.callback = interru

weixin_43360707的博客 1万+

bartender 10.1破解版|bartender条码打印10.1

点击下载出处:BarTender10.1破解版 bartender10.1破解版是一款专业的条码打印软件,在行业内广受好评,通过使用bartender我们可以将标签设计这个复杂的过程变得更简便,在设计中快速调整,即刻打印,非常迅速,BarTender10.1破解版不仅支持的标签类型包括EPC Class 1 、Gen2 、ISO 18000-6b 、ISO 15693 、Tag-It 、I-CO...

weixin_44924147的博客 6万+

深度学习的未来:自然语言理解与人工智能

1.背景介绍 深度学习(Deep Learning)是人工智能(Artificial Intelligence, AI)领域的一个重要分支,它旨在模仿人类大脑中的神经网络学习和理解复杂的数据模式。自从2006年的一项突破性研究以来,深度学习技术就一直在迅速发展,尤其是自2012年的ImageNet大赛中深度学习模型的胜利以来。深度学习已经取得了显著的成果,例如在图像识别、自然语言处理、语音识别、...

AI天才研究院 639

Windows 10 下 Nacos 3.0.2 单机版保姆级安装教程(含JDK 17配置与MySQL 8.0连接避坑)

本文提供Windows 10下Nacos 3.0.2单机版的详细安装教程,涵盖JDK 17配置、MySQL 8.0连接优化及生产级安全设置。通过步骤详解和常见问题解决方案,帮助开发者快速完成Nacos的安装与配置,确保服务发现与配置管理的高效运行。

weixin_29237635的博客 322

自然语言理解过程的人工智能模型猜想

       有一个物体,出现在我们的眼睛前面,我们的视觉系统读取这个物体之后,把这个物体的信息分解为一个个的碎片      然后离散化,分布式存储在神经网络中,这个过程好像我们吃一个食物,要用牙齿把食物嚼碎吞下,然后消化的的模式      那么,我们对一段文字的认知和理解过程,是利用自己原来存储的数据模型重新把这些碎片化的信息重新有序组合起来      形成自己的概念和自己独特的抽象模型...

comsci的专栏 391

虚幻引擎5 AR开发教程02:构建和测试AR Android App

在本教程中,我们将学习如何在虚幻引擎 5 上构建和测试 AR 安卓应用。

mopanchun的博客 2653

将指定文件夹下每张用LabelImg标注的图片中标注部分抠出来保存到指定文件夹下。

将指定文件夹下每张用LabelImg标注的图片中标注部分抠出来保存到指定文件夹下。

weixin_44119674的博客 441

自然语言理解在AI原生电商应用中的创新应用

本文旨在全面解析自然语言理解技术在AI原生电商平台中的应用现状和创新实践。我们将覆盖从基础技术原理到实际业务落地的完整链条,重点关注NLU如何解决传统电商的痛点并创造新的用户体验。文章首先介绍NLU和AI原生电商的基本概念,然后深入分析核心技术原理,接着通过实际案例展示应用场景,最后探讨未来发展趋势和挑战。自然语言理解(NLU): 使计算机能够理解、解释和生成人类语言的技术AI原生电商: 从设计之初就以AI为核心驱动力的电子商务平台语义搜索: 基于查询意图而非简单关键词匹配的搜索技术自然语言理解。

AIGC应用创新大全的博客 1024

【推荐100个unity插件】Animator 的替代品?—— Animancer Pro插件的使用介绍

Animancer与Unity Animator对比及使用指南 摘要: 本文对比了Animancer与Unity官方Animator的核心差异,分析了Animancer的优势特点。Animancer采用代码驱动模式,相比Animator的状态机系统更灵活高效,支持实时调试、动态混合和深度逻辑集成。文章详细介绍了Animancer的快速使用方法,包括动画播放、切换和触发机制,并区分了免费版与专业版的功能差异。适合需要高效动画开发、复杂交互逻辑的中小项目,为开发者提供了一种现代化的动画解决方案。

向宇的博客,专注php/web全栈 unity游戏开发,欢迎大家评论纠错 2435
上一篇: IntelliJ IDEA 2020.1.3 封装jar包的方法及两个错误示例
下一篇: 人工智能
UestcXiye
博客等级 码龄8年 9033粉丝 1306原创
评论 1
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

UestcXiye

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值