
大数据
文章平均质量分 73
非理性地界生物
这个作者很懒,什么都没留下…
展开
-
Hadoop 配置 Kerberos 认证
kinit: Invalid Uid in persistent keyring name while getting default ccacheCannot contact any KDC for realm KrbException: Message stream modified (41)kinit: relocation error: kinit: symbol krb5_get_init_creds_opt_set_pac_request,提交 spark on yarn原创 2023-10-15 19:23:59 · 5727 阅读 · 6 评论 -
集群节点批量执行 shell 命令
集群多节点批量执行 shell 命令监控进程资源使用情况。使用 ps 查询指定名称的 java 进程资源占用原创 2023-10-28 22:16:09 · 567 阅读 · 0 评论 -
Windows Spark 开发测试版本快速搭建
(可选)添加环境变量 SPARK_HOME。并将 %SPARK_HOME%/bin、%SPARK_HOME%/sbin 添加到 path 中。为当前命令行添加 SPARK_HOME,如果添加了全局的 SPARK_HOME 则这里可以省略(可选)ps:本文使用的是 spark-3.3.0-bin-hadoop3.tgz。ps: 一台机器可以起多个 worker,指定不同的端口就行。原创 2023-07-21 10:14:13 · 415 阅读 · 0 评论 -
windows hadoop 开发测试版快速搭建
修改 %HADOOP_HOME%/etc/hadoop 下面的配置文件:core-site.xml、 hdfs-site.xml、 mapred-site.xml、 yarn-site.xml。(可选)修改 %HADOOP_HOME%/etc/hadoop 下面的脚本 hadoop-env.cmd,修改 JAVA_HOME 为本机jdk安装时配置的目录。并将 %HADOOP_HOME%/bin、%HADOOP_HOME%/sbin 添加到 path 中。填指定 ip 时,则 只会监听该 ip。原创 2023-07-21 09:56:51 · 436 阅读 · 0 评论