【中文摘要】redshift是如何改变了游戏规则

AWS Redshift: How Amazon Changed The Game


1. 从多年前,当自己写的单机处理程序无法处理大量数据的时候,我们考虑购买商业数据仓库支持(每TB年单位 2万-60万美金每年)或自己搭建hadoop机群。两个方案都不足以明显的降低成本。这一切从redshift出现而改变。下面我们用数据来看看redshift的性价比
2. 介绍测试机群和数据集。redshift更适合处理非嵌套的存储在s3上的数据,作者期待redshift机群花费和性能成正比,并易于维护。测试查询类似广告系统的事实表的聚合。
3. COPY
过大文件会导致s3超负载,一般分割为3G-60G文件较为稳定,GZIP压缩,而更多的小文件会造成40%的性能损失。
xlarge和8xlarge的传输速率基本差8倍,分别是3.2M每秒每节点,23.8M每秒每节点
4. VACUUM
16个xlarge节点比2台8xlarge大集群vacuum速度更快
5. QUERY
16个xlarge节点仍在大数据量是比2台xlarge
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值