分析文本内容基本的步骤:提取文本中的词语 -> 统计词语频率 -> 词频属性可视化。词频:能反映词语在文本中的重要性,一般越重要的词语,在文本中出现的次数就会越多。词云:让词语的频率属性可视化,更加直观清晰。文本下载地址(http://www.yuandn.com/booktxt/59797/#download 效果图是将老九门12章后面内容删除后结果)
目录:
- 效果示例图
- 分词包介绍及安装
- 词云包介绍安装
- 分词统计
- 词云展现
效果示例图:
分词包介绍及安装:
- R分词包:Rwordseg、rJava,rJava提供java的库,供Rwordseg调用。Rwordseg是一个R环境下的中文分词工具,引用了Ansj包,Ansj是一个开源的java中文分词工具,基于中科院的ictclas中文分词算法,采用隐马尔科夫模型(HMM),江湖传言,Rwordseg有三个很牛逼的地方一是分词准确,二是分词速度超快,三是可以导入自定义词库,甚至还可以导入搜狗输入法的细胞词库(sqel格式)
- Rwordseg依赖包rJava,首先你必须确认你的系统中已经有可用的Java。 linux 系统下检查命令:java –version
- centos下安装命令如下,注意安装的顺序,同时 Rwordseg 并未发布至CARN
- 命令: R (进入R命令行)
- R命令: install.packages("rJava")
- R命令: install.packages("Rwordseg",repos="http://R-Forge.R-project.org")
- Windows系统下安装命令,在windows系统的Rstudio 环境下未在线安装成功,从 https://r-forge.r-project.org/R/?group_id=1054 网站下载基于 windows 的安装包 (Rwordseg_0.2-1.zip),本地安装
- 命令: install.packages("rJava")
- 命令: install.packages("d:\\Rwordseg_0.2-1.zip",repos = NULL,type = "source")
词云包介绍安装:
- 词云本身对于分析数据用处不大,但在当前这个看脸的时代,给领导汇报工作或做报告的时候,利用词云的可视化效果可以产生锦上添花的效应
- R里面绘制词云的包有wordcloud,wordcloud2, 相比wordcloud,新的wordcloud2 能更有效的利用词与词的间隔来插入数据,可以根据图片或者文字来绘制定制化的词云
- wordcloud2是基于wordcloud2.js封装的一个R包,使用HTML5的canvas绘制,浏览器的可视化具有动态和交互效果
- wordcloud2 已发布至CARN,安装命令如下:
- 命令: install.packages("wordcloud2")
分词统计:
- 下载 txt 文件,我是在windows Rstudio 完成分词清洗统计的工作,将清洗后的数据保存为 .rda 文件以便后续发布至 FastRWeb
- 在研究过程中,发现人员未被识别,先普及一下自定义词典知识,代码示例及解释如下:
View Code
-
- 分词代码及解释如下:
View Code
-
词云展现:
- worldcloud2提供两个基本的函数:wordcloud2 和 letterCloud
-
- wordcloud2 : 提供基本的词云功能
- etterCloud : 使用选定的词绘制词云
- 利用上一步清除的数据,显示可视化图云,示例代码如下, 效果与上面的示意图对应
View Code
-
代码中 d:\\ma.png 图片样式如下,你可选择不同图片绘出不同效果,下图是随便从网上截的,仅作演示用