
大数据之hadoop
文章平均质量分 54
Joseph-Growth
这个作者很懒,什么都没留下…
展开
-
hadoop支持lzo完整过程
简介部署安装lzop native library安装hadoop-lzo配置hadoop环境变量验证lzo通过hive测试创建lzo表导入数据索引LZO文件利用hive执行mr任务修改使用中hive表的输入输出格式简介启用lzo 启用lzo的压缩方式对于小规模集群是很有用处,压缩比率大概能降到原始日志大小的1/3。同时解压缩的速度也比较快。安装lzo lzo并不是linu原创 2015-12-21 19:49:09 · 10320 阅读 · 1 评论 -
hdfs目录创建hive表
简介步骤总结简介 针对已经存放在hdfs上的文件,创建hive表。这里推荐创建外表,因为hive外表被删除,对应目录的数据不会被清除。步骤step1. 根据hdfs的数据字段,创建hive表。CREATE EXTERNAL TABLE if not exists push_log( ip STRING COMMENT 'IP Address of the User',原创 2015-12-28 18:34:00 · 9051 阅读 · 0 评论