大数据以及服务器运维
文章平均质量分 84
大数据
dukangming
这个作者很懒,什么都没留下…
展开
专栏收录文章
- 默认排序
- 最新发布
- 最早发布
- 最多阅读
- 最少阅读
-
Kafka笔记
目录1.Kafka中的术语解释1.1 概述1.2 broker1.3 Topic1.4 Partition1.5 Producer1.6 Consumer1.7 Consumer Group1.8 Leader1.9 Follower2.Kafka数据消费策略3.Kafka数据生产策略4.Kafka集群配置5.python操作Kafka 1.Kafka中的术语解释 1.1 概述 在深入理解Kafka之前,先介绍一下Kafka中的术语。下图展示了Kafka的相关术语以及之间的关系: 上图中一个topic配置了原创 2021-03-17 10:12:46 · 280 阅读 · 0 评论 -
KAFKA
https://www.cnblogs.com/qingyunzong/p/9004509.html#_label3_1 目录 一、简介 1.1 概述 1.2 消息系统介绍 1.3 点对点消息传递模式 1.4 发布-订阅消息传递模式 二、Kafka的优点 2.1 解耦 2.2 冗余(副本) 2.3 扩展性 2.4 灵活性&峰值处理能力 2.5 可恢复性 2.6 顺序保证 2.7 缓冲 2.8 异步通信 三、常用Message Queue对比 3.1 RabbitMQ 3.2 Redis 3.3 Ze转载 2021-03-14 00:18:36 · 245 阅读 · 0 评论 -
kafka操作命令
./bin/zkServer.sh start ./bin/zkServer.sh stop 1、启动Kafka bin/kafka-server-start.sh config/server.properties & 2、停止Kafka bin/kafka-server-stop.sh 3、创建Topic bin/kafka-topics.sh --create --zookeeper 118.178.254.35:2181 --replication-factor 1 --partitions原创 2020-10-20 15:02:50 · 333 阅读 · 0 评论 -
Hive操作以及Spark部署
1.hive新建表 create table demo2(elapsedtime_max double,elapsedtime_min double,elapsedtime_avg double,elapsedtime_std double); 2.hive给表加字段 alter table demo add columns(synackcount_max bigint,synackcount_min bigint,synackcount_avg bigint,synackcount_std bigint原创 2020-09-03 09:32:38 · 214 阅读 · 0 评论 -
centos常用命令
vim /ect/profile source /etc/profile原创 2019-03-04 20:53:21 · 123 阅读 · 0 评论 -
CentOS7安装mysql提示“No package mysql-server available
在CentOS7上安装mysql时,出现了以下的提示: 原因是: CentOS7带有MariaDB而不是MySQL,MariaDB和MySQL一样也是开元的数据库,您可以使用yum -y install mariadb-server mariadb命令安装 解决方案: 如果必须要安装MySQL,首先必须添加mysql社区repo通过输入命令:sudo rpm -Uvh http://dev.mys...转载 2019-02-27 21:52:13 · 281 阅读 · 0 评论 -
CentOS7查看和关闭防火墙
https://blog.youkuaiyun.com/ytangdigl/article/details/79796961转载 2019-01-25 21:47:18 · 148 阅读 · 0 评论 -
spark使用
1. start-dfs.sh start-yarn.sh 2. [root@hadoop1 bin]# ./hive --service metastore 3. [root@hadoop1 ~]# cd /opt/spark/spark-2.2.0-bin-hadoop2.6/ [root@hadoop1 spark-2.2.0-bin-hadoop2.6]# ./sbin/start-...原创 2020-03-17 14:53:57 · 268 阅读 · 0 评论 -
hive+spark搭建
1.hive 1.解压 tar -zxvf .tar -C 指定目录 2.hive-env.sh文件 cp hive-env.sh.template hive-env.sh vi hive-env.sh HADOOP_HOME=/opt/bigdata/hadoop/hadoop-2.8.4 (你HADOOP_HOME路径) export HIVE_CONF_DIR=/opt/bigdata/...原创 2020-03-01 16:26:31 · 730 阅读 · 0 评论 -
Hadoop搭建
1.jdk tar -zvxf jdk-8u211-linux-x64.tar.gz -C /opt/bigdata/java vi /etc/profile export JAVA_HOME=/opt/bigdata/java/jdk1.8.0_211 export JRE_HOME=/opt/bigdata/java/jdk1.8.0_211/jre export CLASSPATH=.:$...原创 2020-02-23 18:53:05 · 228 阅读 · 0 评论 -
Hadoop前的准备
虚拟机安装centos7 参考vm安装 centos7安装 centos7网络配置原创 2020-02-21 16:54:48 · 227 阅读 · 0 评论 -
CentOS7上卸载重新安装Mysql
1.卸载 https://blog.youkuaiyun.com/zhwyj1019/article/details/80274269 2.安装 https://blog.youkuaiyun.com/qq_36582604/article/details/80526287 https://blog.youkuaiyun.com/wohiusdashi/article/details/89358071 https://www.cnb...原创 2020-02-14 13:27:51 · 562 阅读 · 0 评论 -
hadoop+spark重新搭建
1.删除原创 2020-02-07 12:00:15 · 1097 阅读 · 0 评论
分享