《数学之美（第一版）》笔记 —— 第2章

最新推荐文章于 2024-06-17 08:09:09 发布
原创 最新推荐文章于 2024-06-17 08:09:09 发布 · 323 阅读 · 0 ·
CC 4.0 BY-SA版权
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。

本文探讨了自然语言处理从基于规则到基于统计的发展历程，对比了两种方法的特点，指出基于统计的方法利用通信系统和隐含马尔科夫模型为核心，更符合现代NLP需求。

第2章：自然语言处理——从规则到统计

  • 虽然传递信息是动物也能做到的，但是利用语言来传递信息是人类的特质。

  • 基于规则的自然语言处理：
    在这里插入图片描述

在这里插入图片描述
在这里插入图片描述

  • 缺点：需要很多的文法规则。

  • 这种基于规则的做法和程序编译很像：自然语言是上下文有关文法；计算机程序语言是上下文无关文法。

  • 基于统计的方法：其核心是通信系统+隐含马尔科夫模型

数学之美~阅读
walkeao的博客
12-15 3441
数学之美目录 数学之美 目录 统计语言模型 谈谈中文分词 隐马尔科夫在语言处理中的应用 怎样度量信息 布尔代数和搜索引擎的索引 图论和网络爬虫 信息论在信息处理中的应用 贾里尼克的故事和现代语言处理 如何确定网页和查询的相关性 有限状态机和地址识别 Google的阿卡47制造者阿米特辛格博士 余弦定理和新闻分类 信息指纹及其应用 谈谈数学模型的重要性 繁与简 自然语言处理的几位精英 不要把所有的
《数学之美（第一版）》笔记 ——第3章
budding0828
08-11 338
第3章：统计语言模型 自 然 语 言 从 它 产 生 开 始 ， 逐 渐 演 变 成 一 种上 下 文 相 关 的 信 息 表 达 和 传 递 的 方 式 ， 因 此 让 计 算 机 处 理 自 然 语 言 ， 一个 基 本 的 问 题 就 是 为 自 然 语 言 这 种 上 下 文 相 关 的 特 性 建 立 数 学 模 型 。 这个 数 学 模 型 就 是 在 自 然 语 言 处 理 中 常 说 的 **统 计 语 言 模 型 （ Statistical Language Model ） **， 它
《数学之美》读书
weixin_34221073的博客
05-29 416
也算是给自己立个flag，看自己是什么时候能够吧数学之美能够读完，同时保证在读的过程当中有记录。 第一版读者赞誉 第二版出版说明 第一版序言 第二版序言 第二版前言 目录 第1章 文字和语言 vs 数字和信息 第2章 自然语言处理——从规则到统计 第3章 统计语言模型 第4章 谈谈分词 第5章 隐含马尔可夫模型 第6章 信息的度量和作用 第7章 贾里尼克和现代语言处理 第8章 简单之美——布尔代数...
​ 每周一书《数学之美 第二版》分享！
中科院计算所培训中心
07-01 668
内容简介 几年前，“数学之美”系列文章原刊载于谷歌黑板报，获得上百万次点击，得到读者高度评价。读者说，读了“数学之美”，才发现大学时学的数学知识，比如马尔可夫链、矩阵计算，甚至余弦函数原来都如此亲切，并且栩栩如生，才发现自然语言和信息处理这么有趣。 在纸本书的创作中，作者吴军博士几乎把所有文章都重写了一遍，为的是把高深的数学原理讲得更加通俗易懂，让非专业读者也能领略数学的魅力。读者通过具体的例...
吴军《数学之美》第二版阅读整理
angelbill3的专栏
03-07 2695
吴军的《数学之美》第一版于2012年出版，并获得国家图书馆第八届文津图书奖。我读的是第二版（再版），作者在第一版的基础上又增加了一些内容。 作者大有来头（IT行业），吴军博士，毕业于清华大学和美国约翰.霍普金斯大学，02年就职于Google，从事搜索算法相关工作。（百度百科） -------------------------------------------------------...
数学之美 (第二版) pdf
weixin_30817749的博客
02-05 2900
下载地址：网盘下载内容简介······几年前，“数学之美”系列文章原刊载于谷歌黑板报，获得上百万次点击，得到读者高度评价。读者说，读了“数学之美”，才发现大学时学的数学知识，比如马尔可夫链、矩阵计算，甚至余弦函数原来都如此亲切，并且栩栩如生，才发现自然语言和信息处理这么有趣。在纸本书的创作中，作者吴军博士几乎把所有文章都重写了一遍，为的是把高深...
各种“熵”的理解——最新版《数学之美》第六章读书笔记
读书笔记控的博客
06-17 1443
关注宝藏博主，绝不后悔！！
《数学之美（第一版）》笔记 —— 第10章
budding0828
08-11 378
第10章 PageRank——Google的民主表决式网页排名技术 搜索结果的排名取决于两组信息：关于网页的质量信息，和这个查询与每个网页的相关性信息。 PageRank核心思想：在互联网上，如果一个网页被很多其他网页所链接，说明它受到普遍的承认和信赖，那么它的排名就高。（解决网页质量的问题） PageRank的计算方式： 计算搜索结果的网页排名过程会用到网页本身的排名。 使用一个二维矩阵相乘来迭代解决：首先假定所有网页的排名是相同的，并且根据这个初值，算出各个网页的第一次迭代排名，然后再根据第一次迭代
《数学之美（第一版）》笔记 —— 第8章
budding0828
08-11 269
第8章 简单之美——布尔代数和搜索引擎的索引 一个搜索引擎大致需要做3件事：1）自动下载尽可能多的网页；2）建立快速有效的索引；3）根据相关性对网页进行公平准确的排序。 数据库SQL支持各种复杂的逻辑组合，背后原理是基本布尔运算。而搜索引擎会把用户的查询语句转换成布尔运算的算式。 搜索引擎的索引是一张大表：表的每一行对应一个关键词，而每个关键词后面跟着一组数字，是包含该关键词的文献的序号。 分布式：根据网页序号将索引分成很多份，分别存储在不同的服务器中。每当接受一个查询时，这个查询就被分发到许许多多服务
《数学之美（第一版）》笔记 —— 第6章
budding0828
08-11 378
第6章 信息的度量和作用 信息熵（Entropy） 背景： 信息量等于不确定性的多少 可以用bit这个概念来衡量信息量（所以加上了log函数） 信息熵公式： 其中P(x)P(x)P(x)是x发生的可能性。变量的不确定性越大，熵也就越大。 信息熵的取值范围是：[0,log2(n)][0, log_2(n)][0,log2​(n)] ，其中n代表分类的数目。其推导过程可以参考：https://blog.youkuaiyun.com/sinat_26811377/article/details/10199235
《数学之美（第一版）》笔记 —— 第5章
budding0828
08-13 357
第5章 隐含马尔科夫模型 通信模型 通信的六要素：发送者，信道，接受者，信息，上下文，编码。 问题：如何从接收端的观测信号o1,o2,o3...o_1,o_2,o_3...o1​,o2​,o3​...来推测信号源发送的信息s1,s2,s3...s_1,s_2,s_3...s1​,s2​,s3​...？ 解：找最可能产生观测信号的源信息。 由于o1,o2,o3...o_1,o_2,o_3...o1​,o2​,o3​...一旦产生就不会改变，所以此时P(o1,o2,o3,...)P(o_1,o_2,o
《数学之美（第一版）》笔记整理 —— 目录
budding0828
08-11 1007
序 因为想对互联网的新兴技术有一些更好的了解，不断拓展自己的知识面，所以想到了吴军老师的《数学之美》，个人非常推荐大家阅读，可以对各种技术有一个入门的了解。吴军老师的讲法也很生动，对部分章节的内容有兴趣的，也可以深入去了解。 为了更好地理解书中的内容，我根据自己的思维方式做了一些整理。并且对一些相对难懂的片段，我做了进一步的扩展和深究。将自己的笔记分享出来，希望能够和大家一起学习和探讨。 电子书pdf我已经上传到github仓库中，方便大家下载。 目录 ...
基于Spring Boot+Vue的线上宠物商城设计与实现源码.zip
12-07
基于Spring Boot+Vue的线上宠物商城设计与实现源码.zip
资产清查损溢认定表.xlsx
12-07
资产清查损溢认定表.xlsx
AI 驱动的一站式智能电商系统
12-07
这个是AI 自动生成的代码
Java实现国密SM4算法：ECB、CBC、CTR、OFB、CFB五种分组加解密模式详解
最新发布
12-07
本资料汇集了在国密算法应用实践中形成的系统性技术总结。这些内容源于实际项目经验，旨在为相关领域的研究与开发工作提供参考。通过具体案例分析与技术要点归纳，本资料详细阐述了算法实现过程中的关键环节与注意事项，涵盖了从基础原理到实际部署的全流程技术细节。 在内容组织上，本资料采用模块化结构，每个技术单元均包含理论说明、实现步骤及验证方法。对于已获取本系列任一技术文档的用户，可依据相应流程获取关联资料。所有技术论述均经过实际环境验证，力求在保持学术严谨性的同时突出实用价值，为密码技术应用提供切实可行的实施方案参考。 资源来源于网络分享，仅用于学习交流使用，请勿用于商业，如有侵权请联系我删除！
3HAC025090-001_rev04.pdf
12-07
ABB工业机器人手册
基于JavaWeb技术栈构建的超市业务管理平台_涵盖用户登录与注销供应商信息维护商品订单全生命周期处理库存动态监控销售数据统计分析多角色权限控制基础数据增删查改等核心.zip
12-07
基于JavaWeb技术栈构建的超市业务管理平台_涵盖用户登录与注销供应商信息维护商品订单全生命周期处理库存动态监控销售数据统计分析多角色权限控制基础数据增删查改等核心.zip
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值