
spark
文章平均质量分 81
是阿飞呀
这个作者很懒,什么都没留下…
展开
-
kafka+sprkStreaming+hbase
1,kafka的安装,参照kafka的安装文档第一步:建立一个自己的topic:bin/kafka-topics.sh --create --zookeeper localhost:2181 --replication-factor 1 --partitions 1 --topic testspark启动自己的topicbin/kafka-console-producer.sh -原创 2016-01-22 17:31:41 · 522 阅读 · 0 评论 -
redis3.0.6集群安装
前期准备目前官网最新的redis stable版本为:3.0.6(时间点:2015年12月21日下午14点54分),支持集群安装部署。首先下载最新版的tar包,scp到机器上(本文将会安装6个节点,3个主节点、3个从节点,由于redis默认需要3个主节点,如果想每个主节点有一个从节点这是最低配要求),端口都采用默认的6379修改配置将下载的tar包解压,修改redis-3.0.6下的r原创 2016-01-22 17:42:28 · 582 阅读 · 0 评论 -
Redis让Spark数据分析速度提升45倍(留作机器学习使用)
https://redislabs.com/solutions/spark-and-redis一些内存数据结构比其他数据结构来得更高效;如果充分利用Redis,Spark运行起来速度更快。Apache Spark已逐渐俨然成为下一代大数据处理工具的典范。通过借鉴开源算法,并将处理任务分布到计算节点集群上,无论在它们在单一平台上所能执行的数据分析类型方面,还是在执转载 2016-03-30 14:56:35 · 3261 阅读 · 0 评论