CDH5.15升级最新版spark2.3

之前安装CDH5.15后,spark版本是1.6,太低了,这里说一下安装最新版spark2.3,因为1.6和2.3是可以共存的,所以也不能算是升级了,不啰嗦,上干货。

  1. 下载安装包

到CDH官网下载对应的spark的parcel包到CDH官网下载对应的spark的parcel包
http://archive.cloudera.com/spark2/parcels/2.3.0.cloudera4/

在这里插入图片描述

注意:我的是CentOS7,所以下载el7的包,如果是CentOS6,就要下el6的包,下载对应自己系统版本的包。

下载csd包
http://archive.cloudera.com/spark2/csd/
在这里插入图片描述

注意:以上csd版本要与parcel的版本保持一致,并与安装的CDH一致!!!

安装包准备如下:
在这里插入图片描述

  1. 安装

2.1 把下载下来的csd包(SPARK2_ON_YARN-2.3.0.cloudera3.jar)放在主节点的/opt/cloudera/csd目录下,如果本目录下有其他的jar包,把删掉或者移到其他目录

修改SPARK2_ON_YARN-2.3.0.cloudera3.jar所属用户组以及所属用户

cd /opt/cloudera/csd
chown cloudera-scm:cloudera-scm SPARK2_ON_YARN-2.3.0.cloudera3.jar

在这里插入图片描述

2.2 上传parcel包到/opt/cloudera/parcel-repo目录下,并且将parcel.sha1修改成parcel.sha

注意: 如果有其他的安装包,不用删除 ,但是如果本目录下有其他的重名文件比如manifest.json文件,把它重命名备份掉。然后把那3个parcel包的文件放在这里。

在这里插入图片描述

# 重启服务
service cloudera-scm-server stop
service cloudera-scm-agent stop
service cloudera-scm-server start
service cloudera-scm-agent start
  1. 分配并激活parcel
    在这里插入图片描述

分配:
在这里插入图片描述

激活:
在这里插入图片描述
在这里插入图片描述
激活后,在主页面添加服务,然后就可以添加spark2服务了。
在这里插入图片描述
在这里插入图片描述

### IntelliJ IDEA 中通义 AI 功能介绍 IntelliJ IDEA 提供了一系列强大的工具来增强开发体验,其中包括与通义 AI 相关的功能。这些功能可以帮助开发者更高效地编写代并提高生产力。 #### 安装通义插件 为了使用通义的相关特性,在 IntelliJ IDEA 中需要先安装对应的插件: 1. 打开 **Settings/Preferences** 对话框 (Ctrl+Alt+S 或 Cmd+, on macOS)。 2. 导航到 `Plugins` 页面[^1]。 3. 在 Marketplace 中搜索 "通义" 并点击安装按钮。 4. 完成安装后重启 IDE 使更改生效。 #### 配置通义服务 成功安装插件之后,还需要配置通义的服务连接信息以便正常使用其提供的各项能力: - 进入设置中的 `Tools | Qwen Coding Assistant` 菜单项[^2]。 - 填写 API Key 和其他必要的认证参数。 - 测试连接以确认配置无误。 #### 使用通义辅助编程 一旦完成上述准备工作,就可以利用通义来进行智能编支持了。具体操作如下所示: ##### 自动补全代片段 当输入部分语句时,IDE 将自动提示可能的后续逻辑,并允许一键插入完整的实现方案[^3]。 ```java // 输入 while 循环条件前半部分... while (!list.isEmpty()) { // 激活建议列表选择合适的循环体内容 } ``` ##### 解释现有代含义 选中某段复杂的表达式或函数调用,右键菜单里会有选项可以请求通义解析这段代的作用以及优化意见。 ##### 生产测试案例 对于已有的业务逻辑模块,借助于通义能够快速生成单元测试框架及初始断言集,减少手动构建的成本。 ```python def test_addition(): result = add(2, 3) assert result == 5, f"Expected 5 but got {result}" ```
评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

蜗牛@漫步

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值