
大数据学习
shdxhsq
热爱python,热爱编程的小白
展开
-
Win10下安装spark踩坑实录
配置spark之前,需要有jdk8,Hadoop环境目录配置spark之前,需要有jdk8,Hadoop环境一.安装IDE二.安装scalastep1:下载step2:配置环境step3:测试三.安装Sparkstep1:添加环境变量step2:复制winutils.exe问题1:问题2:问题3:问题4:问题5:step3:测试四.在eclipse中运行第一个spark程序参考文档一.安装IDEhttp://scala-ide.org/download/sdk.html版本号最好对应上也有sca原创 2020-06-01 20:10:58 · 1034 阅读 · 0 评论 -
【插件免费】Idea 2018.2.4中安装Hadoop插件
目录一.Win10下Hadoop环境搭建二.准备hadoop插件step1:更改pom.xmlstep2:执行命令step3:编译成功后三.在idea中配置插件step1:打开ideastep2:在文件中打开settingstep3:打开插件配置step4:打开cmd,输入start-dfs.cmd,打开hdfsstep5:右键刚刚新建的连接,点击连接step6:连接成功后,可以看到目录参考教程:一.Win10下Hadoop环境搭建传送门:《windows10下配置hadoop2.8.5超详细过程》二原创 2020-05-22 10:43:39 · 403 阅读 · 0 评论 -
Windows10下HDFS基本命令介绍与使用
《Hadoop 最官方命令介绍-Hadoop-2.8.5》传送门: https://hadoop.apache.org/docs/r2.8.5/hadoop-project-dist/hadoop-common/FileSystemShell.html#count一、启动 hdfs开始使用命令前,必须启动 Hadoop由于配置好了环境变量,直接输入命令start-dfs.cmd 要注意,下面的运行里有一些警告,是因为 jdk 高于 1.8,并不影响运行结果。二、常见命令使用(1)-h.原创 2020-05-13 15:03:34 · 1467 阅读 · 0 评论 -
Myeclipse中配置Hadoop2.8.5
本篇文章记录了Myeclipse中配置Hadoop2.8.5的详细过程。另附上hadoop-eclipse-plugin-2.8.5.jar.此外要十分感谢这篇文章《大数据入门(七)win10上eclipse使用Hadoop的配置》的作者,他记录了十分详细的配置过程,让我在配置Myeclipse的过程中少走了很多弯路。目录1.配置好Hadoop-2.8.52.准备好hadoop-eclips...原创 2020-04-28 14:50:44 · 325 阅读 · 0 评论 -
windows下运行hadoop的wordcount示例超详细过程
windows下运行hadoop的wordcount示例超详细过程特别感谢参考博文中的两位博主的分享一.下载2个文件https://github.com/MuhammadBilalYar/HADOOP-INSTALLATION-ON-WINDOW-10/blob/master/MapReduceClient.jarhttps://github.com/MuhammadBilalYar/...原创 2020-04-18 00:22:21 · 1711 阅读 · 2 评论 -
windows10下配置hadoop2.8.5超详细过程
windows10下配置hadoop2.8.5超详细过程初学hadoop,在windows10下学着配置hadoop,由于hadoop是运行在linux下的,在win10配置有许多问题需要注意。在此,记录如下,供大家学习时参考。坚持写详细的教程,记录学习中的喜悦。文章一览windows10下配置hadoop2.8.5超详细过程一.配置Java环境1.下载jdk包2.配置jdk环境3.验证...原创 2020-04-17 23:17:31 · 1432 阅读 · 1 评论