
分布式计算
愿有岁月可回头
数据库、大数据资深架构师
展开
-
分布式计算框架Fourinone
Fourinone FourInOne(中文名字“四不像”)是一个四合一分布式计算框架,在写这个框架之前,我对分布式计算进行了长时间的思考,也看了老外写的其他开源框架,当我们把复杂的hadoop当作一门学科学习时,似乎忘记了我们想解决问题的初衷:我们仅仅是想写个程序把几台甚至更多的机器一起用起来计算,把更多的cpu和内存利用上,来解决我们数量大和计算复杂的问题,当然这个过程中要考虑到分布转载 2012-04-21 21:15:11 · 1211 阅读 · 0 评论 -
elasticsearch深入介绍
原文链接:http://www.sxt.cn/u/324/blog/3802elasticsearch是分布式,REST风格,搜索和分析系统。具有实时数据,实时分析,分布式,高可用性,多租户,全文搜索,面向文档,冲突管理,自由模式,rest风格API,每个操作的持久性,Apache 2的开源许可证,基于Apache Lucene之上的特点。实时数据数据流进入转载 2015-10-14 09:29:59 · 3665 阅读 · 0 评论 -
集群内服务器的时钟同步
通常,在构建大型的服务器集群时均需要进行时钟同步,很多年前,笔者刚入门时忘了进行时钟同步,一个数百亿的数据库集群出现故障,导致数据无法恢复,这也说明了集群的时钟同步重要性。 一般来说,集群的时钟同步有以下几种方法: (1)各服务器与公网的时钟服务器同步。 (2)将集群内的某台机器设为时钟服务器,其他机器与此机器同步,应用中,此方法用的较多。原创 2015-10-15 16:48:01 · 1882 阅读 · 0 评论 -
ElasticSearch分布式架构
本文固定链接: http://www.chepoo.com/elasticsearch-distributed-architecture.html | IT技术精华网今天介绍下ElasticSearch的分布式架构,如果你熟悉cassandra、hadoop、mongodb,你会发现ElasticSearch里面有很多他们的影子,没错,ElasticSearch吸收了目前主流的分布转载 2015-10-14 09:26:21 · 6844 阅读 · 0 评论 -
presto安装:如何在同一台机器上运行不同版本jdk(1.7&1.8)
直接按文档在已安装hadoop的机器上安装presto,出错我的安装环境为hadoop 2.4,centos 6.5X64,presto 0.100(1)root下安装presto发现无法启动,./launch run报如下信息:java.lang.UnsupportedClassVersionError: PR/Sort : Unsupported major原创 2015-09-24 16:40:49 · 2917 阅读 · 0 评论 -
PrestoServer No factory for connector hive 问题解决
安装了presto去连接hive,启动时一直报以下错误:2015-09-23T17:49:34.771+0800 ERROR main com.facebook.presto.server.PrestoServer No factory for connector hive java.lang.IllegalArgumentException: No facto原创 2015-09-24 16:44:42 · 8695 阅读 · 4 评论 -
Facebook Presto 0.100&0.118的安装
安装环境centos 6.5X64coordinator与work安装在同一台机器,该机器没有安装任何的数据库,刚开始准备测试连接mysql、iq等关系型数据库,然后再测试hive环境准备:jdk-8u51-linux-x64.rpm安装:刚开始安装的presto-server-0.118.tar.gz,具体安装方法可见https://prestodb.io原创 2015-09-18 10:47:44 · 3734 阅读 · 0 评论 -
关于删除软raid设备md0
<br />之前有位哥们问如何删除软raid生成的md1等设备,我也想知道,有位老兄回了帖子,觉得都是硬删文件的,在实际应用中恐怕不妥吧,系统挂了可承担不起啊。翻遍了google,终于找到了应对之策,鉴于之前的帖子找不到了,就重发一次吧<br /><br /><br />删除整个RAID:<br />mdadm /dev/md0 --fail /dev/sdb --remove /dev/sdb<br />mdadm /dev/md0 --fail /dev/sdc --remove /dev/转载 2011-04-01 14:07:00 · 3106 阅读 · 0 评论 -
Google Spanner和F1介绍
zz from: http://blog.sina.com.cn/s/blog_4a1f59bf01017xiv.htmlZZ From http://qing.weibo.com/2294942122/88ca09aa3300221n.htmlGoogle Spanner原理- 全球级的分布式数据库标签:大数据云计算Google Spanner简介Span转载 2015-10-05 22:13:35 · 7139 阅读 · 0 评论 -
[转载]当下流行的分布式文件系统大阅兵
<br /> 本文对目前数种分布式文件系统进行简单的介绍。当前比较流行的分布式文件系统包括:Lustre、Hadoop、MogileFS、FreeNAS、FastDFS、NFS、OpenAFS、MooseFS、pNFS、以及GoogleFS。<br /> Lustre(www.lustre.org)<br /> lustre是一个大规模的、安全可靠的,具备高可用性的集群文件系统,它是由SUN公司开发和维护。该项目主要的目的就是开发下一代的集群文件系统,可以支持超过10000个节点,数以PB的数量存储系统转载 2011-04-19 00:05:00 · 636 阅读 · 0 评论 -
Google Protocol Buffer 的使用和原理
http://www.ibm.com/developerworks/cn/linux/l-cn-gpb/Google Protocol Buffer 的使用和原理刘 明, 软件工程师, 上海交大电子与通信系简介: Protocol Buffers 是一种轻便高效的结构化数据存储格式,可以用于结构化数据串行化,很适合做数据存储或 RPC 数据交换格式。它可用于转载 2012-05-20 16:24:51 · 409 阅读 · 0 评论 -
分布式应用程序协调服务zookeeper
zookeeper 应用程序协调服务 ZooKeeper是一个分布式的,开放源码的分布式应用程序协调服务,包含一个简单的原语集,是Hadoop和Hbase的重要组件。分布式应用可以使用它来实现诸如:统一命名服务、配置管理、分布式锁服务、集群管理等功能。 1)ZooKeeper的基本原理 ZooKeeper是以Fast Paxos算法为基础的,在前一篇blog中大转载 2012-04-21 21:17:18 · 1343 阅读 · 0 评论 -
分布式计算框架ProActive
ProActive是一个为进行并联地,分布式地,并发地计算提供一个统一的,灵活的,安全的框架。ProActive提供了一个全面的API从而简化了分布式(局域网上的,并联的工作站,Internet网上的)应用程序的开发。 从网址来看,是法国的一个开源软件http://www-sop.inria.fr/oasis/ProActive/ 其中文的介绍如下:ProActive 是一转载 2012-04-21 21:33:01 · 698 阅读 · 0 评论 -
什么是分布式计算
分布式计算是一门计算机科学,主要研究分布式系统。一个分布式系统包括若干通过网络互联的计算机。这些计算机互相配合以完成一个共同的目标(我们将这个共同的目标称为“项目”)。具体的过程是:将需要进行大量计算的项目数据分割成小块,由多台计算机分别计算,再上传运算结果后统一合并得出数据结论。在分布式系统上运行的计算机程序称为分布式计算程序;分布式编程就是编写上述程序的过程。 中国科学技术信息研究所的转载 2012-04-21 20:27:21 · 2583 阅读 · 0 评论 -
分布式计算框架libGlass
libGlass 提供了一组可伸缩的组件用来执行分布式计算。应用程序在需要的情况下被当作是可重用的组件。该框架适合新的应用程序,同时对一些老应用也同样可用,而无需去改写。libGlass 2.0 对代码进行了清理,更加的可靠,支持 TCP/IP、Unix 套接字;支持远程变量,实现了 nodeNickNames,支持分区共享内存。 http://libglass.sourceforge转载 2012-04-21 21:46:30 · 855 阅读 · 0 评论