
分布式计算
文章平均质量分 80
raoxunrong
劳动最光荣
展开
-
Hadoop的HDFS
原文链接http://www.hadoop.org.cn/hadoop/hadoop-hdfs/ HDFS的设计思想:构建一个非常庞大的分布式文件系统。在集群中节点失效是正常的,节点的数量在Hadoop中不是固定的.单一的文件命名空间,保证数据的一致性,写入一次多次读取.典型的64MB的数据块大小,每一个数据块在多个DN(DataNode)有复制.客户端通过NN(NameNode)得到数据块的转载 2008-09-09 21:49:00 · 1349 阅读 · 0 评论 -
Continuations
原文链接:http://www.defmacro.org/ramblings/fp.htmlContinuations 对于程序设计的意义,就像《达芬奇密码》对人类历史的意义:即对人类最大秘密的惊人揭示。也许不是,但他在概念上的突破性至少和揭示了负数的平方根意义等同。我们在学习函数时,只是学到了一半的事实,因为我们基于一个错误的假定:函数只能将结果返回到它的调用函数。在这个意思上cont转载 2008-09-09 22:41:00 · 1532 阅读 · 0 评论 -
Hadoop安装配置
最近在公司接手了新的project,需要对公司的整个无线网络进行分布式的爬取,网页索引进行更新和计算PR值,由于数据量太大(千万级数据量),不得不进行分布式的处理。新的版本准备采用Hadoop架构,现在将Hadoop配置的大致过程和需要注意的事项进行说明,呵呵,转载自别人的文章(以后的文章我会着重说明我在配置的过程中碰到的一些问题,作为一点小小的总结吧)http://www.cnblogs.co转载 2008-09-09 23:14:00 · 9157 阅读 · 0 评论 -
函数式编程的优点
原文链接:http://www.defmacro.org/ramblings/fp.html 单元测试因为函数式编程的每一个符号都是 final 的,没有函数产生过副作用。因为从未在某个地方修改过值,也没有函数修改过在其作用域之外的量并被其他函数使用(如类成员或全局变量)。这意味着函数求值的结果只是其返回值,而惟一影响其返回值的就是函数的参数。这是单元测试者的梦中仙境(wet dr转载 2008-09-09 22:44:00 · 8533 阅读 · 1 评论