
S3
fct2001140269
大数据架构、地理信息系统
展开
-
14 ,java 操作 s3 ( 详细教程 )
14 ,java 操作 s3 ( 详细教程 )https://blog.youkuaiyun.com/qq_34319644/article/details/101072107ceph s3 对象的上传和删除(JAVA demo)https://blog.youkuaiyun.com/yangkang1122/article/details/100095868...转载 2019-12-13 13:54:01 · 749 阅读 · 0 评论 -
kafka+flume+aws S3安装与配置
kafka+flume+aws S3安装与配置一、下载并解压、安装相应的版本hadoop版本为2.9.2,flume的_本为1.9.0下载hadoop地址为:https://mirrors.tuna.tsinghua.edu.cn/apache/hadoop/common/hadoop-2.9.2/hadoop-2.9.2.tar.gz下载flume地址:https://mirrors.t...原创 2019-06-22 17:00:55 · 2606 阅读 · 0 评论 -
java 使用amazon s3接口访问本地ceph rgw
java 使用amazon s3接口访问本地ceph rgw参考文章:https://blog.youkuaiyun.com/wxmvp009/article/details/79854981场景区别:场景1.使用aws S3的java接口api访问ceph rgw上搭建的S3文件系统。(本文讲的是这种场景 )场景2: 使用aws S3的API直接访问aws S3云存储的存储桶bucket使用ja...原创 2019-07-01 15:58:53 · 4346 阅读 · 7 评论 -
flume接受数据流并sink到aws S3
flume接受数据流并sink到aws S3一、问题描述场景问题:flume接受http中数据,并将文件名称写入flume的event中的header中(header存储时候是<key1,value1>形式),需要flume接受source端的数据流,并解析其中的相应字段之后,sink到S3中。提示:解析出header中的filename字段要作为文件名称,并保存event消息对...原创 2019-07-11 11:14:47 · 1738 阅读 · 0 评论 -
使用 AWS SDK for Java 获取对象
使用 AWS SDK for Java 获取对象使用的maven包是 <dependency> <groupId>org.apache.httpcomponents</groupId> <artifactId>httpclient</artifactId> ...原创 2019-07-11 14:21:20 · 1682 阅读 · 0 评论 -
java作业调度系统的demo
简单作业调度系统demo思考:工程思想目标1.可配置2.稳定性2.可扩展3.高性能1.作业调度系统的需求背景:由A城的人员在web上发出http请求,从city1的aws s3上按照指定作业http请求,发起查询某时间段的数据,并将数据发送到指定的http端口地址,同时在city2使用flume获取http的数据流,并将数据转换为文件sink到本地的磁盘。2....原创 2019-07-24 12:54:36 · 555 阅读 · 0 评论 -
列出key:根据前缀批量查询aws S3的数据文件
java读写操作S31.根据实现批量查询并下载数据1.根据这是阿里云的S3,与aws的S3的java API基本类似http://aliyun_portal_storage.oss.aliyuncs.com/oss_api/oss_javahtml/object.html#id6可以参考aws自己的操作S3的的官方文档https://docs.aws.amazon.com/zh_cn/s...原创 2019-07-25 13:11:18 · 5966 阅读 · 8 评论