时隔两周,Hadoop 3.1版本发布,支持GPU和FPGA

Hadoop 3.1.0 新特性解析
Hadoop 3.1.0 版本带来了多项重要更新,包括 GPU 和 FPGA 支持,YARN 服务框架的增强,以及更好的容器管理和调度功能。这些改进使 Hadoop 更加适合于机器学习、流处理等高性能计算场景。

3月25日,Hadoop 3.0.1版本正式发布,这也让Hadoop正式迈入3.0时代。时隔两周,Apache Hadoop 3.1.0正式发布。与之前的版本(hadoop-3.0)相比,新版本具有许多重要的增强功能,比如支持GPU和FPGA。

不过,新版本暂不推荐在正式生产环境中使用。如果需要,请等待更稳定的3.1.1或者3.1.2版本。

时隔两周,Hadoop 3.1版本发布,支持GPU和FPGA

以下简要介绍主要功能和改进:

  • Yarn Service框架提供一流的支持和API来长期运行在YARN中的原生托管服务。简而言之,它作为一个容器管理平台管理YARN上的集装箱化服务,支持YARN中的容器集装箱和传统的基于容器的过程。

  • YARN上的一流GPU调度和隔离(适用于docker和non-docker containers)。

  • YARN上的一流FPGA调度和隔离(适用于docker和non-docker containers)。

  • 在YARN中支持更多布局约束。这些约束对于应用程序的性能和弹性至关重要,尤其是那些包含长期运行容器的应用程序,如服务,机器学习和流式工作负载。

例如,将同一机器上的任务分配(相似性约束)以降低网络成本,扩展机器之间的分配(非相似性约束)以最小化资源干扰,或者允许达到特定节点组的分配数量(基数约束)以在两者之间取得平衡。放置的位置也会决定弹性。例如,放置在同一可用区域内的集群将同时脱机。

  • 支持管理员为队列指定绝对资源(X内存,Y VCores,Z GPU等),而不是提供基于百分比的值。这让管理员可以更好控制给定队列配置所需的资源量。

  • 提供的存储允许将存储在HDFS之外的数据映射到HDFS并从HDFS进行寻址。它通过向DataNode中的媒体集引入新的存储类型PROVIDED,构建异构存储。

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值