【Spark】-- 交互式 shell

本文介绍了Spark提供的三种交互式Shell:Scala、Python和R,详细说明了启动命令以及如何统计行数和退出Shell的方法。

摘要生成于 C知道 ,由 DeepSeek-R1 满血版支持, 前往体验 >


Spark 提供了基于 Scala、python 和 R 语言的 3 种交互式 Shell

使用的前提是系统中要装有对应的语言


Spark Scala Shell

  • 使用命令 spark-shell可启动

    scala-shell


  • 统计 /etc/passwd 的行数

scala> val lines = sc.textFile("/etc/passwd")
scala> lines.count

这里写图片描述


  • 退出: Ctrl+D 或者 exit()

Spark Python Shell

  • 使用命令 pyspark可启动

    pyspark

  • 统计 /etc/passwd 的行数

>>> lines = sc.textFile("/etc/passwd")
>>> lines.count()
24
  • 退出 : Ctrl+D 或者 exit()

Spark R Shell

  • 使用命令 sparkR可启动

    这里写图片描述

  • 统计 /etc/passwd 的行数

> lines <- SparkR:::textFile(sc,"/etc/passwd")
> count(lines)
[1] 24
  • 退出:Ctrl+D 或者 q()

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值