spark

最新推荐文章于 2025-08-22 11:49:22 发布
最新推荐文章于 2025-08-22 11:49:22 发布
阅读量113 收藏
点赞数
CC 4.0 BY-SA版权
分类专栏： spark 文章标签： 大数据 php
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.youkuaiyun.com/fypop1/article/details/84748831
http://www.tuicool.com/articles/ZfeQrq7

http://spark.apache.org/docs/1.3.1/programming-guide.html

http://www.imobilebbs.com/wordpress/archives/4984?variant=zh-sg
大数据｜Spark介绍
知识库搭建ing
05-18 9213
park为了解决以往分布式计算框架存在的一些问题(重复计算、资源共享、系统组合)，提出了一个分布式数据集的抽象数据模型：RDD(Resilient Distributed Datasets)弹性分布式数据集。
Spark简介
lydms的博客
10-22 1万+
部署Spark集群大体上分为两种模式：单机模式与集群模式大多数分布式框架都支持单机模式，方便开发者调试框架的运行环境。
spark简介
难得糊涂
04-23 1万+
序言 Apache Spark 是专为大规模数据处理而设计的快速通用的计算引擎。Spark是UC Berkeley AMP lab (加州大学伯克利分校的AMP实验室)所开源的类Hadoop MapReduce的通用并行框架，Spark，拥有Hadoop MapReduce所具有的优点；但不同于MapReduce的是——Job中间输出结果可以保存在内存中，从而不再需要读写HDFS，因此Spark能更好地适用于数据挖掘与机器学习等需要迭代的MapReduce的算法。 Spark 是一种与 Hadoop 相
Spark概述
贯彻终生学习主义
05-20 2688
spark概述
Spark端口
tangfatter的博客
12-23 5736
一、4040端口 spark任务运行后，会将Driver所在机器绑定到4040端口，提供当前任务的监控页面。 此端口号默认为4040，展示信息如下： 调度器阶段和任务列表 RDD大小和内存使用情况 环境信息 正在运行的executors的信息 演示如下： 通过spark的java接口启动spark SparkConf sc = new SparkConf(); // 创建一个SpakrConf对象用于配置Spark sc.setAppName("name") // 设定程序名字
Spark Shell 的使用
12-16 5万+
现在我们已经执行了行动操作，执行这些操作需要从磁盘读取数据，Spark在处理这些操作的时候，会把数据缓存起来，后续不管对该RDD执行转换操作还是行动操作，都将直接从内存读取，而不需要和磁盘进行交互。如果数据已经存在外部文件系统，例如本地文件系统，HDFS，HBase，Cassandra，S3 等，可以使用这种方式，即调用 SparkContext 的 textFile 方法，并把文件目录或者路径作为参数。操作，RDD并不会立即缓存，直到执行行动（Action）操作，数据才会真正缓存在内存中。
Spark大数据分析与实战笔记（第二章 Spark基础-01）
想你依然心痛的博客
01-01 3万+
Spark在2013年加入Apache孵化器项目，之后获得迅猛的发展，并于2014年正式成为Apache软件基金会的顶级项目。Spark生态系统已经发展成为一个可应用于大规模数据处理的统一分析引擎，它是基于内存计算的大数据并行计算框架，适用于各种各样的分布式平台的系统。在Spark生态圈中包含了Spark SQL、Spark Streaming、GraphX、MLlib等组件。如下图所示：Spark Core。
Spark基础入门
桃李不言下自成蹊
12-14 4万+
sparkcore sparksql sparkstreaming structedstreming
Spark 配置项
热门推荐
03-30 8万+
首先，对于 CPU 类配置项，我们要重点理解并行度与并行计算任务数的区别。并行度从数据的角度出发，明确了数据划分的粒度，并行度越高，数据粒度越细，数据越分散，CPU 资源利用越充分，但同时要提防数据粒度过细导致的调度系统开销。并行计算任务数则不同，它从计算的角度出发，强调了分布式集群在任一时刻并行处理的能力和容量。并行度与并行计算任务数之间互相影响、相互制约。其次，对于内存类配置项，我们要知道怎么设置它们来平衡不同内存区域的方法。在平衡堆外与堆内内存的时候，我们要重点考察数据模式。
Hadoop 与 Spark：大数据框架的对比与融合
weixin_62782025的博客
05-13 8262
Hadoop 和 Spark 是大数据处理领域的两大主流框架，各自具有独特的优势和适用场景。Hadoop 以分布式文件系统（HDFS）和 MapReduce 计算模型为核心，适合处理大规模批处理任务，尤其在成本效益和容错性方面表现突出。而 Spark 则通过内存计算显著提升了处理速度，特别适用于迭代计算、实时流处理和机器学习等场景。尽管两者在性能、内存利用率和集群管理上存在差异，但它们通常协同工作，Spark 依赖 Hadoop 的 HDFS 进行数据存储。
spark期末复习资料
06-07
大学生期末复习《spark编程基础（python版）》
实验七：Spark初级编程实践
07-15
【Spark 初级编程实践】 Spark 是一个分布式计算框架，常用于大数据处理，它提供了高效的数据处理能力，包括批处理、交互式查询、实时流处理等。本实验旨在通过实践操作，让学生熟悉 Spark 的基本使用，包括安装...
Spark 编程指南简体中文版.pdf
11-23
Spark 编程指南简体中文版 本资源为 Spark 编程指南简体中文版，涵盖了 Spark 的基本概念、数据处理、流处理、图形处理和 SQL 等方面的内容。以下是该资源中的知识点总结： Spark 基础 * Spark Shell：交互式 ...
spark-3.1.3-bin-hadoop3.2.tgz
05-19
Apache Spark 是一个强大的开源大数据处理框架，主要用于快速、通用以及可扩展的数据处理。在这个特定的压缩包"spark-3.1.3-bin-hadoop3.2.tgz"中，我们得到了Spark的3.1.3版本，它已经预编译为与Hadoop 3.2兼容。这...
分享|财务大数据实验室建设方案
tipdm0301的博客
08-20 1077
基于财务大数据实验室现状，高校亟需加强与大数据企业的联合与协作，全方面落实，从思想、教学、实训应用等方案，突出校企双方优势，共同培养出具有大数据背景的财务专业人才
windows环境，安装kafka
weixin_42930616的博客
08-19 373
在 Kafka 的 KRaft 模式下，集群 ID 是用来唯一标识 Kafka 集群的一个 UUID。使用 Kafka 提供的 kafka-storage.sh (Linux/Mac) 或 kafka-storage.bat (Windows) 脚本可以自动生成并格式化存储目录，同时也会生成一个集群 ID。解压 Kafka：将下载的 Kafka 压缩包解压到一个目录，比如 C:\kafka_2.xx.x。listeners: 定义监听地址，例如 PLAINTEXT://localhost:9092。
Flink原理与实践：第一章大数据技术概述总结
AlgoCraft
08-19 891
本文介绍了大数据技术的基础概念与Flink流处理框架的核心原理。首先阐述了大数据的5V特征（Volume、Velocity、Variety、Veracity、Value），然后对比了批处理与流处理的差异，突出了流处理在实时性方面的优势。文章梳理了三代流处理技术演进，重点分析Flink作为新一代框架的特点（低延迟、状态计算、Exactly-Once）。同时介绍了Lambda和Kappa两种架构模式，并讲解了流处理核心概念（窗口、时间语义、Watermark等）。最后通过Kafka实例演示了数据管道的构建过程，
数据湖学习
sun657053178的博客
08-20 999
精通数据湖 = 架构原理 + 格式机制 + 引擎集成 + 元数据管理 + 实战经验。
高级SQL优化 | 告别 Hive 中 GROUP BY 的大 KEY 数据倾斜！PawSQL 自适应优化算法详解
最新发布
PawSQL的博客
08-22 479
摘要：PawSQL的GroupSkewedOptimization算法通过两阶段聚合解决Hive数据倾斜问题。该算法对热点数据先加盐分流（随机分成256组），再合并聚合，有效避免单Reducer处理大分组导致的性能瓶颈。支持COUNT/SUM/AVG等标准聚合函数的智能重写，如将AVG拆解为SUM/COUNT计算。适用于电商、金融等存在严重数据倾斜的分组统计场景，自动优化无需人工干预，显著提升查询效率。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值