
云计算与云存储
aidayei
这个作者很懒,什么都没留下…
展开
-
glusterfs安装配置
1.环境:主机win7-64,虚拟机ubuntu-10.04-server-64,在安装的过程中,选中装samba,这样是为了方便与主机共享和互传文件2.到gluster官方网站(http://www.gluster.org/)上下glusterfs源码,或已经编译好的二进制文件.deb3.安装glusterfs,不论是源码编译,还是选择用.deb文件来安装,官方网站上都有详细步骤。(a).有两点需要特殊声明,一点就是采用源码编译安装的话,需要手动在/etc目录下建glusterfs目录,然后在这个目录下写原创 2011-05-16 19:11:00 · 1943 阅读 · 0 评论 -
GlusterFS将与Hadoop兼融
大数据需要大文件系统,这就是开放源码的 GlusterFS 文件系统在即将发布的GlusterFS 3.3版本的设计目标。Gluster 项目在本周出了GlusterFS 3.3的第二个测试版本,最终发行版预计在今年年底前。新的发行版提供了与Apache Hadoop 的集成点,可以让Hadoop用户使用Gluster存储。对于Gluster,其文件系统和 Hadoop 的 HDFS (Had翻译 2011-11-20 21:28:26 · 5484 阅读 · 0 评论 -
海量文献管理系统概述
很长一段时间不写博客了,因为最近要弄论文,但看到我的博客上被优快云加了个“恒”的小图标,要求是每个月发四篇日志以上,以鼓励大家多把东西拿出来分享。这一点其实挺好的,很多程序员擅长于编码,但并不一定讲解的很好或清晰的写出来。一个技术牛人曾说过:技术人员能把一项技术完成,仅能得及格分,如果能把操作过程写下来,能得70分,而如果能做好、能写出来,并且清晰的讲给大家听,那才可以得满分。 开源原创 2011-11-23 22:49:36 · 3001 阅读 · 0 评论 -
GlusterFS中的volume挂载
GlusterFS提供了最大的灵活性:你可以自由地用各种现在存在的协议输出存储卷,它支持GlusterFS自己的客户端,CIFS,NFS和WebDAV协议参考资料:http://hi.baidu.com/wongxuelei/blog/item/cd32e62e6bc16c434ec22696.html 官网有基于glusterfs,nfs,CIFS的volume挂载例子,前面在G原创 2011-09-02 22:37:58 · 2976 阅读 · 0 评论 -
GlusterFS中的RAID
一直不了解RAID是什么概念,这两天简单看了一下,RAID是“Redundant Array of Independent Disks”的缩写,中文意思是独立冗余磁盘阵列,磁盘阵列中针对不同的应用使用的不同技术,称为RAID level,而每一level都代表着不同技术,目前业界公认的标准是RAID 0~RAID 5。 百度百科里有详细解释这里结合glusterfs的应用,说一下RAID0和R原创 2011-08-16 22:37:16 · 3261 阅读 · 1 评论 -
hadoop集群搭建
1.hadoop入门篇,包括软件下载及配置,并保证单机和伪分布模式可以运行通过,请看hadoop官网 2.集群搭建笔者在hadoop集群搭建中,走了很多弯路,希望大家莫犯同样的错误(a)ssh免密码登陆刚开始ssh localhost 都需要密码,后来在masters机器上,将.ssh目录权限设为500,authroized_keys设为600才好ubuntu目录权限修改原创 2011-06-19 22:43:00 · 17355 阅读 · 2 评论 -
用glusterfs搭建分布式集群
在前面已经安装好的glusterfs基础上,用两台虚拟机test1,test2来分布式存储测试,IP分别为:192.168.30.6,192.168.30.71.首先确保这两台虚拟机执行sudo /etc/init.d/glusterd start启动正常2.用其中一台来原创 2011-05-21 18:12:00 · 4289 阅读 · 0 评论 -
hbase搭建
首先要保证zookeeper搭建成功,然后再搭建hbase,最近因为实习,先留下最近的记录,待有时间慢慢整理原创 2011-06-29 20:36:00 · 1064 阅读 · 0 评论 -
MapReduce入门学习
云计算的核心是MapReduce,这几天在云创公司看MapReduce,刚开始搭hadoop环境时,大概看了一下MapReduce的,但只是粗略的了解了一下。现在仔细看来,发现了解的还不够,比如MapRedcue整个过程中的数据流向,如何设置运行参数,应用于哪些场合等。 最重要的是如何进行MapReduce编程,只有在充分理解MapReduce过程的情况下,才能原创 2011-07-02 13:47:58 · 3888 阅读 · 0 评论 -
HDFS文件读写
1.用haddop提供的C API to HDFS来实现文件写入到HDFS中。过程中主要是在配置环境花了点时间2.用Java API实现对HDFS文件的读取。 留个位,先列出主要内容,有时间再将其详细展开 其实不管用哪种实现方式,都可以实现对HDFS文件的读写原创 2011-07-05 20:11:42 · 6699 阅读 · 2 评论 -
hbase入门学习
前面已对hadoop的MapReduce有了个大概认识,下面在看一下hbase中的MapReduce,TableMapper是继承Hadoop中的Mapper类的,TableReducer是继承Hadoop中的Reducer类的,详见hbase官网API详细说原创 2011-07-03 21:17:35 · 2028 阅读 · 0 评论 -
开源文献管理软件Mendeley
Mendeley功能:1.引用(参考)文献管理2.阅读和注释3.添加和组织4.协作5.备份和移动6.网络和发现它的优势如下:1.跨平台2.免费3.云端存储和同步4.社交网络5.可以自己上传文献,同时也可以在其系统中搜索文献6.客户端工具可以和浏览器操作同步参考资料:1.http://blog.163.com/soft_share@12原创 2011-12-25 21:07:46 · 3182 阅读 · 0 评论