
大数据
海力布
这个作者很懒,什么都没留下…
展开
-
storm的bolt实现阶段统计
有时候我们的bolt处理统计逻辑时,需要阶段统计一下,再把统计结果emit到后面的汇总统计bolt处理,因此需要在本地作一个定时阶段的统计,时间满后再后端的bolt emit数据。阶段统计的bolt实现方法如下: public void execute(Tuple tuple, BasicOutputCollector collector) { if (Tup原创 2014-05-28 10:43:23 · 9915 阅读 · 1 评论 -
Spring cloud server 多机集群配置
Spring cloud server 多机集群配置多机集群的配置就没有那么多要注意的地方了,同样是部署两套server实例来组成服务注册中心的集群。 部署完成后,访问这两个服务注册中心的页面地址看是否注册的服务列表是否一样。 http://10.3.3.130:8761/ http://10.3.3.143:8761/server1的application.pro...原创 2018-06-15 09:57:53 · 636 阅读 · 0 评论 -
Spring cloud server 单机集群配置
Spring cloud server 单机集群配置以下按部署两套server为例进行配置; 首先要在本机上修改/etc/hosts文件,添加两个hostname配置; 如 10.3.3.132 server1 10.3.3.132 server2下面会用到这两个配置server1的application.properties配置请注意以下两处的配置...原创 2018-06-15 09:49:45 · 691 阅读 · 0 评论 -
SpringCloud客户端的基本配置
SpringCloud客户端的基本配置### for client ########################################################spring.application.name=test-api-gatewayserver.port=8899server.context-path=/eureka.instance.prefer-i原创 2018-01-31 10:02:20 · 459 阅读 · 0 评论 -
SpringCloud注册服务器基本配置
SpringCloud注册服务器基本配置### for server #########################################################配置安全验证,用户名及密码spring.application.name=test-cloud-server-01server.port=8761server.address=0.0.0.0ser原创 2018-01-31 09:59:55 · 437 阅读 · 0 评论 -
发现storm代码的一个Bug
今天在用storm写应用的时候无意发现一个bug,主要信息如下: - storm版本:1.0.3 - 组件:storm-core - 方法:org.apache.storm.utils.Utils#getGlobalStreamId有问题的代码: public static GlobalStreamId getGlobalStreamId(String streamId, Str原创 2017-04-19 09:32:19 · 901 阅读 · 1 评论 -
Kafka 的kafka-server-stop.sh脚本在 centos7系统失效
Kafka 的kafka-server-stop.sh脚本在 centos7系统失效,执行后并不能停止 kafka 进程。研究一下内容,可以用如下的命令来停止:kill -s TERM $(jps -l | grep 'kafka\.Kafka' | awk '{print $1}')原创 2017-04-07 16:52:01 · 6043 阅读 · 0 评论 -
HIVE无法正常启动,报找不到jdbc的驱动类
通过启动脚本:cd $HIVE_HOME./bin/hive --hiveconf hive.root.logger=DEBUG,console启动报如下错误:16/08/25 19:06:18 [main]: DEBUG bonecp.BoneCPDataSource: JDBC URL = jdbc:mysql://slave1:330原创 2016-08-25 19:35:03 · 13401 阅读 · 9 评论 -
如何使用上aliyun的maven镜像
众所周知,在国内使用maven,下载速度实在无法忍受,严重影响开发效率。后来oschina架了个镜像,但是现在也用不了,关闭了。 好在现在aliyun也架了一个,可以使用,而且速度相当赞。在.m2/目录下新建一个settings.xml文件,内容如下:<?xml version="1.0" encoding="UTF-8"?><settings xmlns="http://maven.apach原创 2016-09-13 14:39:08 · 8745 阅读 · 0 评论 -
greenplum 4.8.3.2 因发现bug被下线了
难怪我后来又没有找到4.8.3.2版本的下载链接了,原来是有bug,还好我只是在测试环境使用,接下来线上环境是不能用这个版本了,目前只能用4.8.3.1。以下是原文:There is an issue with the functionality of a product you are following on Pivotal Network.A moderate v原创 2016-07-17 23:35:37 · 1155 阅读 · 0 评论 -
编译 spark-1.1.0版本方法
编译 hadoop 版本的命令如下,可以直接使用 make-distribution.sh 脚本来编译,命令如下:./make-distribution-noclean.sh --tgz -Pyarn -Phive -Phadoop-2.4 -Dhadoop.version=2.4.0然后就在当前目前会生成一个 tgz 的文件。如果是编译 cdh 版本的话,参考命令如下:./mak原创 2014-10-11 11:34:24 · 2347 阅读 · 0 评论 -
一张图解释清楚hadoop的处理流程
原创 2014-10-27 10:08:16 · 3956 阅读 · 0 评论 -
secureCRT使用退格键(backspace)出现^H解决办法
刚新装了python-3.4.1,使用secureCRT连接上去,但是我在进入后,输入回格键时,屏幕显示的是^H,这个让人受不了。终于在网上找到了解决办法,只要修改一下secureCRT的配置即可。如下图:选项---》会话选项---》把下面两个打个钩就行了。原创 2014-09-04 11:20:51 · 18932 阅读 · 4 评论 -
配置hadoop集群时要注意的问题
在配置hadoop集群时,以下问题一定要注意,否则会出现各种莫名其妙的问题:同步各个hadoop服务器的系统时间,否则在执行mapreduce任务时,会一直不执行或系统提示其它服务器的系统资源不足等问题。其它问题待我遇到再补充。原创 2014-09-10 10:47:11 · 927 阅读 · 0 评论 -
Spring cloud server 启动报错
启动报错如下:2018-06-15 15:28:55.050 [TaskBatchingWorker-target_10.3.3.143-2] ERROR c.netflix.eureka.cluster.ReplicationTaskProcessor - Batch update failure with HTTP status code 401; discarding 3 repli...原创 2018-06-15 15:43:35 · 2520 阅读 · 0 评论