bigdata
lvyforever
这个作者很懒,什么都没留下…
展开
专栏收录文章
- 默认排序
- 最新发布
- 最早发布
- 最多阅读
- 最少阅读
-
kafka 的安装及测试
1.下载 下载地址: http://kafka.apache.org/downloads 2.解压到/opt/kafka目录 3.修改server.properties 3.1 修改broker.id,全局唯一,例如 broker.id=1 3.2 修改log.dirs,消息超时或者缓存一定时间会存盘,这是存盘路径 3.3 修改zookeeper配置 4. ...转载 2018-12-19 16:55:30 · 272 阅读 · 1 评论 -
storm安装
一、下载 下载地址:http://storm.apache.org/2018/06/04/storm122-released.html 二、安装 1.安装包解压到/opt/storm目录 2.配置storm.yaml 配置Zookeeper地址(配置Zookeeper的主机名,注意: 如果Zookeeper集群使用的不是默认端口,那么还需要配置storm.zook...转载 2018-12-19 17:30:49 · 208 阅读 · 0 评论 -
kafka学习研究
1.kafka消息发送的负载均衡 一个topic 可以配置几个partition,produce发送的消息分发到不同的partition中,consumer接受数据的时候是按照group来接受,kafka确保每个partition只能同一个group中的同一个consumer消费,如果想要重复消费,那么需要其他的组来消费。Zookeerper中保存这每个topic下的每个part...转载 2018-12-23 03:44:35 · 395 阅读 · 0 评论 -
kafka命令行
1.列出Topic [root@Server1 kafka_2.12-0.11.0.0]# bin/kafka-topics.sh --zookeeper localhost:2181 --list HelloWorld 2. 创建Topic [root@Server1 kafka_2.12-0.11.0.0]# bin/kafka-topics.sh --create --zookee...转载 2018-12-22 19:24:13 · 1210 阅读 · 0 评论 -
ubuntu下erlang源码的编译与安装
可以用apt-get直接安装erlang,不过版本有些旧而已,本文说的是如何从源代码编译出一个在ubuntu下可用的erlang。 可以用如下命令察看apt安装erlang所依赖的其它库: sudo apt-get build-dep erlang 不过这里的许多库其实不是必须的,比如openjdk,fop等等。 1. 基础开发工具的安装 指gcc/g++、make Bash代码 su...转载 2019-01-04 10:26:04 · 1617 阅读 · 0 评论 -
Hive - 建表和加载数据指令小结 以及使用Load data指令的注意事项
类似Mysql的数据库概念: hive> CREATE DATABASE cui; hive> USE cui; 创建表: CREATE TABLE test( first STRING, second STRING ) 默认记录和字段分隔符: \n 每行一条记录 ^A 分隔列(八进制 \001) ^B 分隔ARRAY或者STRUC...转载 2018-12-25 17:27:49 · 448 阅读 · 0 评论
分享