
云计算
文章平均质量分 93
星辰的野望
这个作者很懒,什么都没留下…
展开
-
Apache HBase
对Apache HBase 进行的简单分析和学习。原创 2022-06-03 15:35:46 · 726 阅读 · 1 评论 -
基于分布式结构的分布式计算:MapReduce 浅析
Map Reduce介绍编程模式应用场景分布式grep,用于文件内字符串查找,太熟悉了URL访问频率统计逆向Web-Link图逆序索引分布式排序MapReduce实现执行预览Master节点失效检测失效处理文件存储任务颗粒度备用任务效率技巧分区函数顺序存储combiner函数输入输出类型边界效应出错处理:跳过损坏记录状态信息计数器对于前面的一些补充master数据结构容错worker失效master失效出错处理机制当map和reduce操作不确定时存储位置任务粒度备用任务4.技巧分割函数文件顺序性保证com原创 2022-03-08 17:50:44 · 3418 阅读 · 0 评论 -
如何解决kv存储:Google Bigtable 浅析
提示:文章写完后,目录可以自动生成,如何生成可参考右边的帮助文档初读Google Bigtable什么是Bigtable数据模型行列时间戳API其他功能支持单行事务单元格可以作为整数计数器支持服务器在地址空间内执行客户端的脚本建立块结构什么是BigtableBigtable是一个分布式的存储系统,可以支持PB级别的数据。对于不同数据量和延迟需求的应用都有灵活、高性能的解决方案。Bigtable和数据库有很多相似之处。Bigtable不支持完整的关系数据模型,而是提供了可以对数据部署和格式动态控制原创 2021-09-29 14:42:59 · 1304 阅读 · 0 评论 -
配置单节点Hadoop
配置单节点Hadoop准备工作下载并解压添加环境变量修改对应文件修改D:/hadoop-2.7.2/etc/hadoop/core-site.xml配置修改D:/hadoop-2.7.2/etc/hadoop/mapred-site.xml配置:在D:/hadoop-2.7.2目录下创建data目录,作为数据存储路径修改D:/hadoop-2.7.2/etc/hadoop/hdfs-site.xml配置修改D:/hadoop-2.7.2/etc/hadoop/yarn-site.xml配置:初始化节点,运行原创 2021-09-10 15:11:24 · 600 阅读 · 0 评论 -
分布式文件存储:Google File System 浅析
Google File SystemGFS是什么DFS系统分类网络文件系统(NFS)Andrew系统(AFS)KASS系统(KFS)DFS系统具体介绍网络文件系统(NFS)设计目标部分功能分布式文件系统 (KFS)Chunk 服务器(chunk的中文就是“块”)客户端客户端的缓存一致性问题分布式系统负载均衡策略GFS是什么GFS是谷歌的分布式文件管理系统,因此,我们首先来了解一下什么是分布式文件管理系统。DFS文件系统是计算机存储、管理数据的基本方式,当信息量足够大(单台服务器无法支撑现有业务量时原创 2021-08-04 11:03:54 · 3616 阅读 · 0 评论