我为什么不继续做java,用4个月转做了Hadoop开发?

Hadoop MapReduce纵表转横表 与 横表转纵表 输入数据如下:以\t分隔 0-3岁育儿百科 书 23 0-5v液位传感器 5 0-5轴承 2 0-6个月奶粉 23 0-6个月奶粉c2c报告 23 0-6个月奶粉在线购物排名 23 0-6个月奶粉市场前景 23 0-6个月配方奶粉 23 0.001g电子天平 5 0.01t化铝炉 2 0.01吨熔铝合金炉 2 0.03吨化镁炉 阅读详情
我从14年大学毕业到去年底一直做java开发,最多时候每月能有个1万。做java开发的这两年工作很努力,给公司解决了不少问题,这两年收入也没太大的提升。
在网上看看Hadoop开发呢?相对java来说好太多,Hadoop开发这个职位公司很舍得投入,而且对经验要求也不高。我前段时间换了个公司做Hadoop开发,每个月2万,新人也能拿到一个较高的起薪,而且未来的发展很好。(写给同是java开发的你)
我转做Hadoop开发不只是因为挣得多,下面我就说一说我对大数据产业的3点分析,给想学Hadoop开发,想去大数据行业的人一些参考。
1.大数据目前在市场中占有什么位置?(写给同是java开发的你)
大数据产品的核心是数据,其真正的价值在于有丰富的数据维度,并不是单纯的指数据量大。
大数据其实已经发展了多年,只是近两年以一种高调的姿态进入了大众的视野,在加上“互联网+”的助攻,成为了市场的宠儿。
大数据行业中数据的使用流程基本是这样的:数据收集、数据存储、数据建模、数据分析、数据变现,其中的每个环节都能产生巨大的价值,做好了都能成为一大大公司。(写给同是java开发的你)
其实我们每天都在享受这大数据提供的服务,某云音乐的个性化推荐、某地图的智能导航、某打车的智能调度等等,这些服务都是建立的大数据的基础上。(写给同是java开发的你)
现在,大数据产业正是市场的宠儿,许多公司都意识到,大数据在公司战略发展层面的重要性,都在着重发展大数据的相关业务。
2.大数据的快速发展给java开发带来了什么好处?
最直接的就是做Hadoop开发的高收入,不过还是要进入这个行业才算享受到了这波红利。
导致的原因很明显,公司需要更多的大数据人才,但是职场中没有这么多人。供需失衡,在16年的大数据产品峰会上有数据表明,目前中国有30万大数据人才,未来3-5年中国有150万的人才缺口。
这也就导致了大数据行业的起薪非常高,这是我们java程序员的一个机会,相比其他语言我们学Hadoop开发要简单,所以大家一定要做好选择。(写给同是java开发的你)
我选择现在做Hadoop开发有两点考虑,第一、收入变多了,而且会越来越多,第二、作为一批较早进入的人,只要自己努力3年后肯定能做到一个较高的位置,那时候我所能拥有的绝不单是较高的收入,还有更好的职业发展。
3.做Hadoop大数据开发的话,有哪几个方向?(写给同是java开发的你)
从一些网站来看,用人需求主要可以划分为3类:
侧重基建与架构——大数据架构方向
(2)侧重建模与分析大——数据分析方向
(3)侧重应用实现——大数据开发方向
我当时学Hadoop的时候这三个方向的知识都学了,比较综合。不过我现在主要做Hadoop开发和推荐系统方面的工作。
简单说一下该怎么学习Hadoop开发吧。
1.首先要有Linux、Python、java的基础,Hadoop还是适合有基础的人学,所以还是有一定门槛的,不java、php0基础就可以。
2.然后搭建Hadoop集群,先让它在自己电脑上运行。
3.学习分布式文件系统HDFS。
4.学习分布式计算框架MapReduce
5.学习流式计算Strom
6.学习分布式协作服务Zookeeper
7.学习Hive—数据仓库工具
8.学习Hbase—分布式存储系统
9.学习Spark
10.学习Scala
11.学习Spark开发技术
12.学习推荐系统
a.学习基于MR、Mahout的协同过滤算法
b.学习基于Spark的协同过滤算法
我按照当时学习时候的视频,整理了一个大概的学习框架。刚开始我不建议大家直接看书学习,因为我最初就是自己看书,但是很郁闷。学的杂乱无章,没有重点,不知道该学什么才符合真实的生产环境。
之所以我能学会,也是有次碰巧在论坛认识了百度的Hadoop核心架构师孙哥,他让助理给了我一套自己录的视频。里边包括Hadoop入门、Hadoop生态架构、百度的Hadoop项目,这套视频给了我很大的帮助,我也是看了视频学习才清晰起来,从入门到学的更深,再到直接看一些官方文档和相关论文。
想要视频的话,可以添下面孙哥助理的徾,信
我建议大家前期看视频学习,ganshiyun666(没有空格)大家可以找孙哥的助理要这套视频的最新版。
大数据最全【Hadoop】Hadoop 编译源码,2024年最新大数据开发开发谈 小伙伴深入学习提升的进阶课程,涵盖了95%以上大数据知识点,真正体系化! 阅读详情

相关推荐

Java后端开发工程师是否该转大数据开发?

背景 看到一些java开发工程师,对java后端薪酬太悲观了。认为换去大数据领域就会高工资。觉得java后端没有前途。我从事java后端开发,对大数据领域工作有些了解,但不深入。本文描述一下我对java后端和是否转大数据开发的个人见解。 目的 分析大数据领域分类 分析大数据工作工资高的原因 分析造成觉得java后端开发不够前景的原因 java后端转大数据工作做什么 转去大数据领域的各类方向与java后端比较衡量 一、大数据领域工作我认为分4类 类别

bjyxszd9的博客 1843

Java大数据处理与Hadoop

1.背景介绍 大数据处理是指处理和分析大量、高速、不断增长的数据,这些数据通常来自不同的来源,如网络、传感器、数据库等。随着互联网和人工智能的发展,大数据处理已经成为现代科学和工程的重要组成部分。 Java是一种广泛使用的编程语言,它的强大的性能和跨平台性使得它成为大数据处理领域的首选。Hadoop是一个开源的大数据处理框架,它可以处理大量数据并提供高性能、可扩展性和容错性。 本文将从以下几...

AI天才研究院 1232

Ubuntu安装Hadoop3.4

sudo adduser hadoop将Hadoop加进sudo用户组,赋予更高权限:sudo usermod -G sudo hadoop查看JDK安装路径:which java 和 ls -al在Hadoop分布式集群环境中,各个机器之间的通信通常需要使用SSH的方式进行连接。由于集群中可能包含多台机器,如果每次登录都需要输入用户名和密码,那么这将是一个非常繁琐且耗时的过程。SSH免密登录通过使用公钥和私钥进行身份验证,可以避免密码在网络中明文传输,从而减少密码被窃取的风险。在hadoop用户及其主目录

月亮的技术博客 1681

Hadoop学习总结(使用Java API操作HDFS)

使用HDFS提供的Java API构造一个访问客户端对象,然后通过客户端对象对HDFS上的文件进行操作(增、删、改、查)。

2202_75688394的博客 5382

hadoop CDH4.4上Impala集群安装

hadoop-001     10.168.204.55  state-store, catalog, impalad hadoop-002     10.168.204.56  impalad hadoop-003     10.168.204.57  impalad hadoop-004     10.168.204.58  impalad 版本: impala 1.2

K_James的专栏 5395

Hadoop简介及Java大数据学习资料

MapReduce是一种分布式计算模型,它可以将大规模任务分解成小的子任务,并将它们分配给多个计算节点并行执行,最终将结果合并。总结来说,Hadoop是一个强大的分布式计算框架,可以处理大规模数据集,并且具有高可靠性和高容错性。其中,WordCount.jar是我们打包好的JAR文件,com.hadoop.example.WordCount是我们定义的Java类的全限定名,input是输入文件的路径,output是输出文件的路径。它可以在廉价的硬件上运行,并且可以通过添加更多的节点来扩展性能。

BitCodeW的博客 217

hadoop实验——Java连接hadoop,对hadoop进行管理教程

(5)导入hdfs所需的jar包,jar包在在安装hadoop目录下的share目录下的hadoop目录下的四个目录,这里我导入jar包的方法是将share目录下的hadoop目录复制粘贴到eclipse的java项目中再将jar包解析。接下来是FileSystem,这是一个抽象类,这个类是非常重要的类,通常就是用该类来对hadoop中存储的文件进行增删改查,它有很多方法,可查看hadoop API帮助文档进行了解与使用,文档网址如下。也就几行代码,对hadoop的管理步骤就。

m0_59799878的博客 3345

Halcon窗体开发避坑指南:C#自定义控件实现7大图像交互功能

本文详细介绍了如何利用C#封装自定义Halcon控件,以解决原生HWindowControl功能不足的问题。通过实战代码,展示了如何实现图像按比例显示、鼠标拖动缩放、灰度值读取、图像保存、截图及图形叠加等七大核心交互功能,并重点剖析了内存管理、坐标转换等开发避坑要点,帮助开发者构建稳定可复用的机器视觉组件库。

weixin_29251131的博客 292

使用Java和Hadoop构建分布式数据处理系统

使用Java和Hadoop构建分布式数据处理系统 大家好,我是微赚淘客系统3.0的小编,是个冬天不穿秋裤,天冷也要风度的程序猿! 在大数据时代,处理和分析海量数据变得越来越重要。Hadoop作为一个开源的分布式计算平台,为我们提供了一个强大的工具来处理大规模数据集。本文将介绍如何使用Java和Hadoop构建一个简单的分布...

weixin_34584910的博客 219

Python爬虫实战:手把手教你用Selenium绕过药监局网站的反爬机制(附完整代码)

本文详细介绍了如何使用Selenium绕过药监局网站的反爬机制,提供了一套完整的Python爬虫实战方案。通过浏览器指纹伪装、动态等待策略、会话维持技巧以及分布式采集设计,帮助开发者高效爬取药监局数据,解决政府类网站常见的反爬挑战。

weixin_42620255的博客 738

构建企业级AI税务顾问:优化税收策略与合规

本文深入探讨了构建企业级AI税务顾问的重要性及其在实际应用中的价值。通过分析当前税务领域的挑战和问题,本文详细介绍了AI税务顾问的基本原理、技术架构、核心功能以及实践应用。文章以逐步分析的方式,从背景介绍、核心概念与联系、算法原理讲解、系统分析与架构设计、项目实战到最佳实践与展望,系统性地展示了如何利用AI技术优化税收策略并确保税务合规。文章旨在为企业和税务从业者提供实用的指导,推动AI在税务领域的创新与发展。在当前全球经济一体化的背景下,企业面临着越来越复杂的税务环境。首先,税收法规的复杂性日益增加。

AI天才研究院 1157

为什么Hadoop是用Java实现的?

来自知乎:http://www.zhihu.com/question/19866038 9 个回答 赞同14 反对,不会显示你的姓名 周亮,关注程序,也关注秩序,思考算法,也思考… Alan Yeung、知乎用户、王涛 等人赞同 Hadoop的创始人是Doug Cutting, 同时也是著名的基于Jav

MemRay 7057

TXS0104EPWR 4通道电平转换模块原理图设计,已量产

在嵌入式系统设计中,不同模块间的电平不兼容是常见问题 —— 比如 1.8V 的 MCU 与 3.3V 的传感器通信,或是 3.3V 的外设与 5V 的主控交互。这类场景下,一款高效、低功耗的双向电平转换器就成了关键组件。本文将结合实际原理图,深度解析 TI TXS0104 这款 4 通道双向电平转换器的设计要点与应用实践。

不脱发的程序猿 492

为什么很多JAVA程序员都是在转大数据

前言 首先JAVA的精密,强大,拥有其它语言不可替代的性能和可维护性,早已经是成为最受欢迎的编程语言之一,很多人想进入IT行业,首选的第一门语言就是JAVA。但是,在未来10年肯定是大数据的天下,人工智能的爆发,将会有大量企业会进入大数据领域,而从JAVA程序员转JAVA大数据就会有天然的优势,因为目前大数据的架构基本都是用JAVA语言完成,未来10年,JAVA大数据的需求量会越来越大。 现在学习...

微信搜:import_bigdata,大数据领域硬核原创作者 2316

为什么一个“时间片”能折腾 Linux 十年?

时间片扩展不是抢占调度器的控制权,也不是提升优先级。在“非常短暂、非常确定”的用户态临界区内,避免线程被不必要地抢占。用户态自旋锁(user-space spinlock)无系统调用的极短临界区高并发、低延迟的数据结构操作RSEQ(Restartable Sequences)保护区间一旦线程在临界区被抢占,系统整体性能反而下降。线程 A 拿着一个用户态锁线程 B 被调度上来,开始自旋等这个锁但 A 因为时间片用完,被调度器切走CPU 白白空转,所有线程都在浪费时间。

网络技术联盟站 256

Android14 Qcom 从Framework到Driver带你连接WIFI(一)

前面已经讲完了WIFI打开的流程,那么通过UI这时候是可以选择需要连接的网络进行连接。从这里开始我们看连接的流程。

IAYLBL的博客 696

python转型工资_这么学让你4个月转型年薪40+万Hadoop工程师

毕业后做了2年java开发的工作,平时工作很努力,现在带了几个人也算小有成就吧。但是经过我这2年的观察,觉得在java开发这个职位上发展起来太慢、太难了。在和圈内的人聊天的时候,一致认定大数据行业正在风口浪尖,处于职业红利期,现在做Hadoop开发不论是职业发展,还是获得较高的薪资都比较容易,会java学Hadoop上手也快。所以前段时间决定转行做Hadoop开发。前几天定下了一个Hadoop开发...

weixin_39985842的博客 113

msf后渗透之获取登入password、远程控制、调用摄像头

在terminal输入load kili creds_all直接获取密码(不一定成功) 使用kiwi_cmd sekurlsa::logonpasswords获取密码

m0_61506558的博客 2964

hadoop开发java_Hadoop学习笔记(五):java开发MapReduce

1.MapReduce的流程图(摘自马士兵老师视频),我们开发的就是其中的这两个(红框)过程。简述一下这个图,input就是我们需要处理的文件(datanode上文件的一个分块);Split就是将这个文件进行拆分,默认的就是按照行来拆分,拆分的结果是一个key-value对,key是这一行起始的位置,value就是这一行的内容;map是我们需要开发的内容,也就是对这一行数据的处理,产生的结果也是...

weixin_42319436的博客 594

SAP自动化-ME51N批量创建采购申请

2、需要管理员授权RZ11脚本录制回放功能。1、仅限于正对SAP日常工作的批量处理。3、数据模板按实际需求更新。物料编码,工厂,数量。

小九啥也不会 530

ET2012新版免狗免安装绿色软件

ET2012新版免狗免安祖昂绿色软件。,新界面,新视觉,

Java开发转大数据开发,必须要做到哪几点?

Java开发转大数据开发要做到几点?假设你有Java基础选择了自学大数据,而对于完全没有编程和Java基础的人来说,自学绝对是浪费时间和精力的事情。 现在已经从之前的java后端开发正式转大数据开发,项目数据50T,日均数据增长20G左右,大概是需求问题吧,工资待遇较上一份翻了一倍(这是重点)。 当然,我的分享不是能让各位升职加薪跳槽,只是对于技术人来说,技多不压身,以下为个人经验分享,不喜勿喷。...

数智集的博客 2564

Statistics and Machine Learning Toolbox

Statistics and Machine Learning Toolbox(带书签),MATLAB统计学习工具

hadoop 2.7.4 单机版安装

hadoop 2.7 安装 首先下载: http://www.apache.org/dyn/closer.cgi/hadoop/common/hadoop-2.7.4/hadoop-2.7.4.tar.gz 解压: tar -zxvf hadoop-2.7.4.tar.gz 拷贝到工作目录 : mv hadoop.xxxxx /usr/local/hadoop 安装java 1.8 下载

李晓蒙的博客 9734

SAP B1中文培訓教材_SDK

公司内部培训资料,对开发工具 ,DIAPI, UIAPI,Add-ON有详细解说

pscad IEEE标准系统搭建说明

pscad IEEE标准系统搭建说明,包含典型的IEEE 9节点、14节点、30节点、39节点和118节点系统。内含标准测试系统的原始数据和潮流结果。

当我说要做大数据工程师时他们都笑我,直到三个月后……转

GitChat 作者:Fickr孫啟誠原文:三个月大数据研发学习计划实战解析关注微信公众号:「GitChat 技术杂谈」 一本正经的讲技术 【不要错过文末彩蛋】 申明: 本文旨在为普通程序员(Java程序员最佳)提供一个入门级别的大数据技术学习路径,不适用于大数据工程师的进阶学习,也不适用于零编程基础的同学。 前言: 一、背景介绍 二、大数据...

630

hadoop集群配置不一样该如何做

我整理的一些关于【HA】的项目学习资料(附讲解~~)和大家一起分享、学习一下:https://d.51cto.com/f2PFnNHadoop集群配置不一样该如何做 Hadoop集群是用于大数据处理的分布式计算框架,通常用于数据存储和分析。当不同节点的配置不一致时,可能会对集群的性能和稳定性造成影响。为了确保集群的高效运...

weixin_36940278的博客 158

Java大数据开发做什么?Java大数据开发成长路线

Java开发是IT行业的经典岗位,行业当中存在普遍的需求,Web开发、Android开发、游戏开发等岗位,基本上Java语言是主力队伍。而进入大数据时代,Java又在大数据方向上有了用武之地。今天我们主要来讲讲Java大数据开发做什么,又该如何进行成长路线规划。 在Java程序界流行着一种默认的说法叫「黄金5年」,也就是一个程序员从入职的时候开始算起,前五年的选择直接影响着整个职业生涯中的职业发展方向和薪资走向。而在Java大数据开发岗上,这种说法同样有可参考之处。 这几年在大数据的影响下,学Jav

shuimuzh123的博客 3243

9.4 使用java操作hadoop

操作前准备 1、新建maven项目 2、引入jar包 <!-- 引入hadoop-common Jar包 --> <dependency> <groupId>org.apache.hadoop</groupId> <artifactId>hadoop-common</artifactId> <version>2.6.0</version> </depen

weixin_45355124的博客 900
上一篇: win8 好用的快捷键总结
下一篇: dom4j解析xml原理详解
ExceptionMapping
博客等级 码龄10年 30粉丝 11原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值