
大数据
兮++
让每一行代码都有改变世界的力量
展开
-
Spark Mllib决策树示例三
需要数据源可以留言object DecisionTreeClassification { def main(args: Array[String]): Unit = { System.setProperty("hadoop.home.dir","E:\\tools\\hadoop\\hadoop-common-2.6.0-bin-master\\hadoop-common-2.6.0-bin-master") val spark = SparkSession.builder().mas原创 2022-01-26 11:43:03 · 2697 阅读 · 0 评论 -
Spark Mllib 逻辑回归示例
需要数据源可以留言object logic { def main(args: Array[String]): Unit = { val conf = new SparkConf().setMaster("local[*]").setAppName("linner") val spark = SparkSession.builder().config(conf).getOrCreate() val file = spark.read.format("csv").option(原创 2022-01-26 11:37:41 · 298 阅读 · 0 评论 -
Spark Mllib 线性回归示例
需要数据集可以给我留言object linner { def main(args: Array[String]): Unit = { val conf = new SparkConf().setMaster("local[*]").setAppName("linner") val spark = SparkSession.builder().config(conf).getOrCreate() val file = spark.read.format("csv").opti原创 2022-01-26 11:36:01 · 2065 阅读 · 1 评论 -
Spark Mllib决策树示例二
判断婚姻状况需要数据集的可以给我留言object DecisionTreeClass { def main(args: Array[String]): Unit = { val sc = new SparkContext("local[*]", "AdultData") val raw_data = sc.textFile("adult.data") val data = raw_data.map(line => line.split(", ")).filter(f原创 2022-01-26 11:32:00 · 1492 阅读 · 0 评论 -
Spark Mllib决策树示例
object DecisionTree { def main(args: Array[String]): Unit = { val conf = new SparkConf().setMaster("local").setAppName("tree") val sc = SparkSession.builder().config(conf).getOrCreate() val lines = sc.sparkContext.textFile("tree.txt") va原创 2022-01-26 09:16:06 · 407 阅读 · 0 评论 -
H2O安装
1. 安装jdk1.82.下载http://h2o-release.s3.amazonaws.com/h2o/rel-turchin/9/index.html3.解压 运行cd ~/Downloadsunzip h2o-3.8.2.9.zipcd h2o-3.8.2.9java -jar h2o.jar4.访问http://localhost:543215.运行官方 GBM_Example下载导入importFiles ["http://s3.amazonaws.com/h原创 2022-01-18 13:54:22 · 612 阅读 · 2 评论 -
Hadoop HA《hadoop-Yarn》
1.Hadoop集群HA搭建可参考我的文章《Hadoop分布式搭建(一)》2.修改环境变量cd /opt/hadoop-3.1.2/etc/hadoopvi hadoop-env.shexport JAVA_HOME=/usr/lib/jvm/jdk1.8.0_111export HDFS_NAMENODE_USER=rootexport HDFS_DATANODE_USER=rootexport HDFS_JOURNALNODE_USER=rootexport HDFS_ZKFC_U原创 2022-01-15 16:29:52 · 1930 阅读 · 1 评论 -
HadoopHA 搭建
1.准备三台机器 centos7安装步骤 略( 可以看我的 虚拟机安装 centos7 文章)2.配置免秘钥访问略(可以看我的免秘钥配置文章)3.JKD 安装1.8略4.Hadoop官网下载3.1.2网址 http://hadoop.apache.org/https://archive.apache.org/dist/hadoop/common/hadoop-3.1.2/5.解压 tar -zxvf hadoop-3.1.2.tar.gz mv hadoop-3.1.2 /opt/t原创 2022-01-15 15:20:35 · 1884 阅读 · 1 评论 -
HBase集群搭建(一)
1.准备三台机器 centos7安装步骤 略( 可以看我的 虚拟机安装 centos7 文章)2.配置免秘钥访问略(可以看我的免秘钥配置文章)3.JKD 安装1.8略4.下载 HBasehttps://hbase.apache.org/downloads.html5.安装tar -zxvf hbase-2.2.5-bin.tar.gzmv hbase-2.2.5 /opt/hbase/6.修改环境变量cd /opt/hbase/hbase-2.2.5/conf/vi hbase原创 2022-01-12 11:24:14 · 948 阅读 · 2 评论 -
Zookeeper 集群搭建(一)
1.准备三台机器centos7安装步骤 略( 可以看我的 虚拟机安装 centos7 文章)2.配置免秘钥访问略(可以看我的免秘钥配置文章)3.下载zookeperhttps://zookeeper.apache.org/releases.html下载 zookeeper-3.4.5.tar.gz4.安装解压tar -zxvf zookeeper-3.4.5.tar.gz mkdir -p /opt/zkmv zookeeper-3.4.5 /opt/zk/接入目录编辑cd原创 2022-01-11 13:48:11 · 593 阅读 · 0 评论 -
免秘钥访问
服务器相互免秘钥访问生成秘钥 ssh-keygen -t rsa -P '' -f ~/.ssh/id_rsa修改配置文件vi /etc/ssh/ssh_config StrictHostKeyChecking noUserKnownHostsFile /dev/null互相copy秘钥ssh-copy-id -i ~/.ssh/id_rsa.pub root@IP完成...原创 2022-01-11 09:39:29 · 258 阅读 · 0 评论 -
Hadoop分布式搭建(一)
1.Hadoop官网下载3.1.2网址 http://hadoop.apache.org/https://archive.apache.org/dist/hadoop/common/hadoop-3.1.2/2.准备三台机器(本教程使用的虚拟机)centos 7 安装教程可以看我的这篇https://redis.blog.youkuaiyun.com/article/details/113755340ssh免密登陆配置略3.安装JDK1.8略4.安装hadoop-3.1.2.tar.gz把下原创 2022-01-10 13:03:24 · 792 阅读 · 2 评论