spark

最新推荐文章于 2025-09-06 21:58:22 发布
转载 最新推荐文章于 2025-09-06 21:58:22 发布 · 55 阅读 · 0 ·
CC 4.0 BY-SA版权
原文链接：http://www.cnblogs.com/jswang/p/9008144.html
文章标签：

#大数据 #java

本文介绍了Spark的基本概念，包括其支持的语言（如Scala、Python和Java），并对比了Spark与MapReduce的性能差异。此外还详细解释了Spark的核心组件——弹性分布式数据集（RDD）及其主要特性。文中还提供了如何使用Spark Context API进行数据加载与处理的例子。

spark支持语言： scala、paython、java    1:2:4 

　　使用spark sql（中间的过滤、筛选）  三种性能一样。

 

spark 比 mapReduce快

　　cpu与内存比为1:2，或者1:4

 

RDD：弹性数据分布集    5个特性      对RDD测操作：1、transformation   2、Action

 

spark.sparkContext

API:

　　1:sc.textFile(""),从外部加载数据，返回的的是RDD类型     sc.textFile("").cache.count          备注：只有调用count时，才可以显示。

　　sc.textFile("").collect

转载于:https://www.cnblogs.com/jswang/p/9008144.html

大数据｜Spark介绍
知识库搭建ing
05-18 9232
park为了解决以往分布式计算框架存在的一些问题(重复计算、资源共享、系统组合)，提出了一个分布式数据集的抽象数据模型：RDD(Resilient Distributed Datasets)弹性分布式数据集。
Spark简介
lydms的博客
10-22 1万+
部署Spark集群大体上分为两种模式：单机模式与集群模式大多数分布式框架都支持单机模式，方便开发者调试框架的运行环境。
spark简介
难得糊涂
04-23 1万+
序言 Apache Spark 是专为大规模数据处理而设计的快速通用的计算引擎。Spark是UC Berkeley AMP lab (加州大学伯克利分校的AMP实验室)所开源的类Hadoop MapReduce的通用并行框架，Spark，拥有Hadoop MapReduce所具有的优点；但不同于MapReduce的是——Job中间输出结果可以保存在内存中，从而不再需要读写HDFS，因此Spark能更好地适用于数据挖掘与机器学习等需要迭代的MapReduce的算法。 Spark 是一种与 Hadoop 相
Spark概述
贯彻终生学习主义
05-20 2710
spark概述
Spark端口
tangfatter的博客
12-23 5742
一、4040端口 spark任务运行后，会将Driver所在机器绑定到4040端口，提供当前任务的监控页面。 此端口号默认为4040，展示信息如下： 调度器阶段和任务列表 RDD大小和内存使用情况 环境信息 正在运行的executors的信息 演示如下： 通过spark的java接口启动spark SparkConf sc = new SparkConf(); // 创建一个SpakrConf对象用于配置Spark sc.setAppName("name") // 设定程序名字
Spark Shell 的使用
12-16 5万+
现在我们已经执行了行动操作，执行这些操作需要从磁盘读取数据，Spark在处理这些操作的时候，会把数据缓存起来，后续不管对该RDD执行转换操作还是行动操作，都将直接从内存读取，而不需要和磁盘进行交互。如果数据已经存在外部文件系统，例如本地文件系统，HDFS，HBase，Cassandra，S3 等，可以使用这种方式，即调用 SparkContext 的 textFile 方法，并把文件目录或者路径作为参数。操作，RDD并不会立即缓存，直到执行行动（Action）操作，数据才会真正缓存在内存中。
Spark大数据分析与实战笔记（第二章 Spark基础-01）
想你依然心痛的博客
01-01 3万+
Spark在2013年加入Apache孵化器项目，之后获得迅猛的发展，并于2014年正式成为Apache软件基金会的顶级项目。Spark生态系统已经发展成为一个可应用于大规模数据处理的统一分析引擎，它是基于内存计算的大数据并行计算框架，适用于各种各样的分布式平台的系统。在Spark生态圈中包含了Spark SQL、Spark Streaming、GraphX、MLlib等组件。如下图所示：Spark Core。
Spark基础入门
桃李不言下自成蹊
12-14 4万+
sparkcore sparksql sparkstreaming structedstreming
Spark 配置项
热门推荐
03-30 8万+
首先，对于 CPU 类配置项，我们要重点理解并行度与并行计算任务数的区别。并行度从数据的角度出发，明确了数据划分的粒度，并行度越高，数据粒度越细，数据越分散，CPU 资源利用越充分，但同时要提防数据粒度过细导致的调度系统开销。并行计算任务数则不同，它从计算的角度出发，强调了分布式集群在任一时刻并行处理的能力和容量。并行度与并行计算任务数之间互相影响、相互制约。其次，对于内存类配置项，我们要知道怎么设置它们来平衡不同内存区域的方法。在平衡堆外与堆内内存的时候，我们要重点考察数据模式。
Hadoop 与 Spark：大数据框架的对比与融合
weixin_62782025的博客
05-13 8325
Hadoop 和 Spark 是大数据处理领域的两大主流框架，各自具有独特的优势和适用场景。Hadoop 以分布式文件系统（HDFS）和 MapReduce 计算模型为核心，适合处理大规模批处理任务，尤其在成本效益和容错性方面表现突出。而 Spark 则通过内存计算显著提升了处理速度，特别适用于迭代计算、实时流处理和机器学习等场景。尽管两者在性能、内存利用率和集群管理上存在差异，但它们通常协同工作，Spark 依赖 Hadoop 的 HDFS 进行数据存储。
spark期末复习资料
06-07
大学生期末复习《spark编程基础（python版）》
实验七：Spark初级编程实践
07-15
【Spark 初级编程实践】 Spark 是一个分布式计算框架，常用于大数据处理，它提供了高效的数据处理能力，包括批处理、交互式查询、实时流处理等。本实验旨在通过实践操作，让学生熟悉 Spark 的基本使用，包括安装...
spark考试（练习题）编程！
06-13
Spark考试（练习题）编程！ 在这篇文章中，我们将详细讨论 Spark 考试（练习题）编程！的相关知识点。 消息系统 消息系统是指能够在不同的应用程序之间传递消息的系统。常见的消息系统包括 Kafka、RabbitMQ 和 ...
Spark 编程指南简体中文版.pdf
11-23
Spark 编程指南简体中文版 本资源为 Spark 编程指南简体中文版，涵盖了 Spark 的基本概念、数据处理、流处理、图形处理和 SQL 等方面的内容。以下是该资源中的知识点总结： Spark 基础 * Spark Shell：交互式 ...
数智管理学（四十八）
chainso23的博客
09-04 901
数据驱动管理理论：数智时代的企业转型核心 摘要：数据驱动管理理论已成为数智化时代企业转型的核心支柱。该理论强调通过数据的采集、分析与应用，实现决策科学化、运营高效化和创新持续化。在战略层面，企业利用大数据分析技术精准洞察市场动态、客户需求和竞争环境；在流程优化方面，通过数智化技术实现资源配置优化、生产流程改进和营销策略升级；在创新驱动方面，运用数据挖掘技术识别潜在机会，推动产品服务和商业模式创新。实践表明，数据驱动管理能显著提升企业运营效率（如生产效率提升30%）、降低成本（15%），并创造新的商业价值。这
【Kafka】Kafka使用场景用例&Kafka用例图
A-Itfuture的博客
09-05 343
注：以上图片来源于网络，如有不妥请私信删除！
RabbitMQ工作模式（下）
最新发布
熵减玩家
09-06 1167
简单介绍rabbitmq 的路由模式，通配符模式，RPC，发布确认
2025 大数据时代值得考的证书排名前八​
LRQ2025的博客
09-03 984
2025年大数据领域高含金量证书推荐：CDA数据分析师（行业认可度高，起薪15K+）、AWS数据分析认证（云计算黄金标准，起薪18K+）、Google数据分析证书（零基础友好，起薪12K+）、CDMP（数据治理权威认证，起薪18K+）、PMP（项目管理加分项，起薪18K+）、TensorFlow开发者认证（深度学习领域，起薪23K+）、Cloudera工程师认证（Hadoop硬核技能，起薪20K+）和Azure数据科学家认证（微软生态，起薪25K+）。这些证书覆盖数据分析、云计算、AI等热门方向，能有效提升
Elasticsearch优化从入门到精通
qq_34478339的博客
09-06 1024
Elasticsearch性能优化指南 本文系统介绍了Elasticsearch从基础到高级的优化技术。首先回顾了核心概念如节点、集群、索引和分片。硬件层面建议合理配置JVM内存（不超过32GB）、使用SSD磁盘并优化CPU和网络设置。索引设计方面重点讲解了分片策略、映射优化和生命周期管理。写入性能优化包括批量操作、客户端配置和服务器参数调整。查询优化涉及DSL技巧、索引设计和聚合查询优化。集群层面建议采用专用节点架构，并介绍了分片分配与监控策略。最后还介绍了热温架构等高级优化技巧。通过综合应用这些方法，可
Spark 1.6.3 压缩包介绍
标题 "spark-1.6.3-bin-hadoop2.6.tgz" 指的是 Apache Spark 版本 1.6.3 的二进制发行包文件，这个文件被归档为 TGZ 格式（即.tar.gz压缩格式），通常适用于 Hadoop 2.6 环境。描述部分与标题完全相同，表明文件内容...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值