spark

最新推荐文章于 2025-08-14 09:56:16 发布
原创 最新推荐文章于 2025-08-14 09:56:16 发布 · 95 阅读 · 0 ·
CC 4.0 BY-SA版权
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
文章标签：

#开发工具 #大数据 #scala

本文汇总了多个Apache项目的官方网站链接，包括Spark、HBase、Hadoop、Hive和ZooKeeper等，提供了各项目的版本下载地址及文档说明。

摘要生成于 C知道 ，由 DeepSeek-R1 满血版支持， 前往体验 >

https://spark.apache.org/
https://hbase.apache.org/
http://www.apache.org/dyn/closer.cgi/hbase/
https://hadoop.apache.org/
http://hive.apache.org/
http://zookeeper.apache.org/
https://wiki.apache.org/hadoop/WordCount

http://www.scala-lang.org/

Spark 1.6.2 - Scala 2.10
Spark 2.0.0 - Scala 2.11


https://spark.apache.org/downloads.html

http://mirrors.hust.edu.cn/apache/hadoop/common/hadoop-2.7.3/

http://www.scala-lang.org/download/2.11.0.html


IntelliJ IDEA 的下载，安装

https://www.jetbrains.com/idea/


http://www.hsweb.me/


http://idea.lanyus.com


http://download.youkuaiyun.com/download/
大数据｜Spark介绍
知识库搭建ing
05-18 9203
park为了解决以往分布式计算框架存在的一些问题(重复计算、资源共享、系统组合)，提出了一个分布式数据集的抽象数据模型：RDD(Resilient Distributed Datasets)弹性分布式数据集。
Spark简介
lydms的博客
10-22 1万+
部署Spark集群大体上分为两种模式：单机模式与集群模式大多数分布式框架都支持单机模式，方便开发者调试框架的运行环境。
spark简介
难得糊涂
04-23 1万+
序言 Apache Spark 是专为大规模数据处理而设计的快速通用的计算引擎。Spark是UC Berkeley AMP lab (加州大学伯克利分校的AMP实验室)所开源的类Hadoop MapReduce的通用并行框架，Spark，拥有Hadoop MapReduce所具有的优点；但不同于MapReduce的是——Job中间输出结果可以保存在内存中，从而不再需要读写HDFS，因此Spark能更好地适用于数据挖掘与机器学习等需要迭代的MapReduce的算法。 Spark 是一种与 Hadoop 相
Spark概述
喻师傅的学习笔记
05-20 2672
spark概述
Spark Shell 的使用
12-16 5万+
现在我们已经执行了行动操作，执行这些操作需要从磁盘读取数据，Spark在处理这些操作的时候，会把数据缓存起来，后续不管对该RDD执行转换操作还是行动操作，都将直接从内存读取，而不需要和磁盘进行交互。如果数据已经存在外部文件系统，例如本地文件系统，HDFS，HBase，Cassandra，S3 等，可以使用这种方式，即调用 SparkContext 的 textFile 方法，并把文件目录或者路径作为参数。操作，RDD并不会立即缓存，直到执行行动（Action）操作，数据才会真正缓存在内存中。
Spark端口
tangfatter的博客
12-23 5731
一、4040端口 spark任务运行后，会将Driver所在机器绑定到4040端口，提供当前任务的监控页面。 此端口号默认为4040，展示信息如下： 调度器阶段和任务列表 RDD大小和内存使用情况 环境信息 正在运行的executors的信息 演示如下： 通过spark的java接口启动spark SparkConf sc = new SparkConf(); // 创建一个SpakrConf对象用于配置Spark sc.setAppName("name") // 设定程序名字
Spark大数据分析与实战笔记（第二章 Spark基础-01）
想你依然心痛的博客
01-01 3万+
Spark在2013年加入Apache孵化器项目，之后获得迅猛的发展，并于2014年正式成为Apache软件基金会的顶级项目。Spark生态系统已经发展成为一个可应用于大规模数据处理的统一分析引擎，它是基于内存计算的大数据并行计算框架，适用于各种各样的分布式平台的系统。在Spark生态圈中包含了Spark SQL、Spark Streaming、GraphX、MLlib等组件。如下图所示：Spark Core。
Spark基础入门
桃李不言下自成蹊
12-14 4万+
sparkcore sparksql sparkstreaming structedstreming
Spark 配置项
热门推荐
03-30 8万+
首先，对于 CPU 类配置项，我们要重点理解并行度与并行计算任务数的区别。并行度从数据的角度出发，明确了数据划分的粒度，并行度越高，数据粒度越细，数据越分散，CPU 资源利用越充分，但同时要提防数据粒度过细导致的调度系统开销。并行计算任务数则不同，它从计算的角度出发，强调了分布式集群在任一时刻并行处理的能力和容量。并行度与并行计算任务数之间互相影响、相互制约。其次，对于内存类配置项，我们要知道怎么设置它们来平衡不同内存区域的方法。在平衡堆外与堆内内存的时候，我们要重点考察数据模式。
Hadoop 与 Spark：大数据框架的对比与融合
weixin_62782025的博客
05-13 8202
Hadoop 和 Spark 是大数据处理领域的两大主流框架，各自具有独特的优势和适用场景。Hadoop 以分布式文件系统（HDFS）和 MapReduce 计算模型为核心，适合处理大规模批处理任务，尤其在成本效益和容错性方面表现突出。而 Spark 则通过内存计算显著提升了处理速度，特别适用于迭代计算、实时流处理和机器学习等场景。尽管两者在性能、内存利用率和集群管理上存在差异，但它们通常协同工作，Spark 依赖 Hadoop 的 HDFS 进行数据存储。
spark期末复习资料
06-07
大学生期末复习《spark编程基础（python版）》
实验七：Spark初级编程实践
07-15
【Spark 初级编程实践】 Spark 是一个分布式计算框架，常用于大数据处理，它提供了高效的数据处理能力，包括批处理、交互式查询、实时流处理等。本实验旨在通过实践操作，让学生熟悉 Spark 的基本使用，包括安装...
spark考试（练习题）编程！
06-13
Spark考试（练习题）编程！ 在这篇文章中，我们将详细讨论 Spark 考试（练习题）编程！的相关知识点。 消息系统 消息系统是指能够在不同的应用程序之间传递消息的系统。常见的消息系统包括 Kafka、RabbitMQ 和 ...
Spark 编程指南简体中文版.pdf
11-23
Spark 编程指南简体中文版 本资源为 Spark 编程指南简体中文版，涵盖了 Spark 的基本概念、数据处理、流处理、图形处理和 SQL 等方面的内容。以下是该资源中的知识点总结： Spark 基础 * Spark Shell：交互式 ...
杂记 01
AYheyheyhey的博客
08-13 613
90% 的开发场景（尤其是后端、云原生、脚本开发）：优先用WSL 2，轻便、高效、集成性好。需要 Linux 图形化界面或深度系统定制：选Ubuntu 虚拟机。实际使用中，WSL 已经能满足绝大多数开发需求，且微软持续优化 WSL 的功能（如支持 GUI 应用、Docker 原生运行等），推荐优先尝试。减少沟通成本（明确需求和方案）；保证代码质量（测试、评审）；降低上线风险（灰度、监控）。不同团队（比如互联网公司偏敏捷快速迭代，传统企业偏严谨流程）会调整步骤，但核心逻辑相通～
「Java EE开发指南」如何使用MyEclipse中的Web Fragment项目？
最新发布
需要界面开发、IDE工具研发中文教程资料的小伙伴，记得私信我~
08-14 350
本文将为大家介绍如何使用MyEclipse中的Web Fragment项目来模块化Web应用部署描述符，欢迎下载最新版体验！
pycharm配置连接服务器
小小Bug编写员
08-13 336
（等下要填到 PyCharm 的 Interpreter 栏）这个一登陆进来就在/home/user_name目录里了。这时候 conda -V 就能看到版本号了。填：刚 which 输出的那个。安装 Miniconda。如果能看到版本号，跳到。如果显示未找到命令，按。
华为Atlas 200 DK 板卡使用技巧记录（一）修改板卡IP
weixin_41809117的博客
08-11 441
摘要：本文介绍了Atlas 200 DK开发板网络配置的详细步骤，包括通过USB或网口连接开发板后，使用vim编辑01-netcfg.yaml文件配置网络参数的具体操作方法。
WEB虚拟主机3种部署方式全解析
2301_81623418的博客
08-12 875
摘要：本文介绍了虚拟主机的三种部署方式（相同IP不同端口、不同IP相同端口、相同IP和端口不同域名）及具体实现步骤。通过配置DNS服务和Apache服务器，详细说明了如何修改默认网站路径、更改监听端口，并演示了多站点部署的过程。实验环境基于192.168.100.0/24网络，涉及httpd.conf配置修改、虚拟主机模板应用、多域名解析等操作，最终实现在不同条件下通过IP或域名访问不同站点内容。
Spark 1.6.3 压缩包介绍
标题 "spark-1.6.3-bin-hadoop2.6.tgz" 指的是 Apache Spark 版本 1.6.3 的二进制发行包文件，这个文件被归档为 TGZ 格式（即.tar.gz压缩格式），通常适用于 Hadoop 2.6 环境。描述部分与标题完全相同，表明文件内容...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值