
Hadoop
天上飞下一毛雪
弱鸡的冒险之旅,大四找工作狗,我真的真的好菜。。。。博客内容如有侵权或交流讨论,请加微信:jqt1120359293
展开
-
Hadoop入门MapReduce实现WordCount(调用编写Java-API 集群模式生成Jar包)
调用API的思路:(1) 用户编写的程序分成三个部分:Mapper,Reducer,Driver(提交运行 mr 程序的客户端)(2)Mapper 的输入数据是 KV 对的形式(KV 的类型可自定义)(3)Mapper 的输出数据是 KV 对的形式(KV 的类型可自定义)(4)Mapper 中的业务逻辑写在 map()方法中(5)map()方法(maptask 进程)对每一个<...原创 2019-01-23 18:32:03 · 780 阅读 · 1 评论 -
MapReduce概述
MapReduce概述MapReduce用于大规模数据集(通常大于1TB)的并行运算,实现了Map和Reduce两个功能。MapReduce的思想是“分而治之”。“分”是把复杂的任务分解为若干个“简单的任务”执行,由map负责。“简单的任务”指数据或计算规模相对于原任务要大大缩小;就近计算,即会被分配到存放了所需...转载 2019-01-22 23:27:29 · 734 阅读 · 0 评论 -
IntelliJ Idea 常用快捷键
IntelliJ Idea 常用快捷键列表Alt+回车 导入包,自动修正Ctrl+N 查找类Ctrl+Shift+N 查找文件Ctrl+Alt+L 格式化代码Ctrl+Alt+O 优化导入的类和包Alt+Insert 生成代码(如get,set方法,构造函数等)Ctrl+E或者Alt+Shift+C 最近更改的代码Ctrl+R 替换文本Ctrl+F 查找文本Ctrl+S...转载 2019-01-22 22:28:02 · 146 阅读 · 0 评论 -
报错:org.apache.hadoop.hdfs.server.namenode.SafeModeException: Cannot create directory
报错:org.apache.hadoop.hdfs.server.namenode.SafeModeException: Cannot create directory原因:安全模式是HDFS所处的一种特殊状态,在这种状态下,文件系统只接受读数据请求,而不接受删除、修改等变更请求。解决:执行改命令关闭安全模式hdfs dfsadmin -safemode leave其他命令:...原创 2019-01-22 22:26:26 · 3085 阅读 · 0 评论 -
Hadoop—Linux常用命令
1. shell中用命令启动eclipse在ubuntu中配置好eclipse之后,假设其放置在$ECLIPSE路径下。进入安装路径启动 进入eclipse的路径,运行eclipse:cd $ECLIPSE./eclipsecd快速启动 将eclipse执行文件符号链接到/usr/local/bin就可以在shell中快捷启动了。链接命令:cd /usr/local...原创 2018-10-28 21:46:35 · 343 阅读 · 0 评论 -
Hadoop入门IntelliJ编写Maven创建HDFS文件
1、创建一个Maven工程HdfsClientDemo2、在该项目的pom.xml文件中添加以下代码:导入相应的依赖坐标+日志添加<dependencies> <dependency> <groupId>org.apache.hadoop</groupId> <artif...原创 2019-01-22 19:57:34 · 1905 阅读 · 0 评论 -
Win-连接-Linux
1、win to linux for files(传文件)如果Wind向Linux传输文件使用的插件是:WinSCP注:WinSCP自己下载就好了。。。 2、win to linux for terminal(传命令)Winds连接Linux时使用Putty,但是Putty操作多个终端比较麻烦,所以使用了MTPuTTY这个插件先下载Putty,然后下载一个MTPuTTY...原创 2019-01-22 18:11:16 · 172 阅读 · 0 评论 -
SCP命令---讲解
scp是 secure copy的缩写, scp是linux系统下基于ssh登陆进行安全的远程文件拷贝命令。linux的scp命令可以在linux服务器之间复制文件和目录。 假设:两台机器IP分别为:A.104.238.161.75,B.43.224.34.73 1、在A服务器上操作,将B服务器上/home/lk/目录下所有的文件全部复制到本地的/root目录下,命令为:...原创 2019-01-22 16:20:37 · 26438 阅读 · 0 评论 -
MapReduce(实战)实现统计计数(传递对象Bean)
本套代码实现了对流量的统计源数据:第2列为手机号,倒数2、3列为上行流量和下行流量,则我们要按照手机号为主键,统计出这个手机号一共的上行和下行流量。(数据是自己造的)1363154400022 13926251106 5C-0E-8B-B1-50:CMCC 120.17.81.234 twat.com 4 0 240 10 2001363154400023 13856251106 5C...原创 2019-01-26 17:12:36 · 857 阅读 · 0 评论 -
Centos7 Linux 设置进入GUI界面或者纯命令行模式
关闭图形界面的显示是为了进一步减少计算机性能的消耗。检查当前默认设置:[root@centos01 ~]# systemctl get-defaultgraphical.targegraphical.target表示开机将默认进入图形界面切换方法:1. 设置为命令模式 systemctl set-default multi-user.target2. 设置为图...原创 2019-01-23 13:50:12 · 12631 阅读 · 0 评论