
spark
骑士李四
专心做好技术的人
展开
-
spark配置文件介绍
spark配置文件介绍spark有很多参数,然后会有不同的配置文件,这里做一下介绍,也供自己以后查询。1.spark properties:这个可以控制应用程序的绝大部分属性。并且可以通过SparConf对象挥着Java系统属性进行配置;2.环境变量(Environment variable):这个可以分别对每台机器单独进行相应设置,比如IP。这个可以在每台机器的spark-env.sh脚...原创 2020-03-27 15:26:37 · 1447 阅读 · 0 评论 -
Docker下spark环境搭建
RUN echo "Install Spark" && \ wget -O /tmp/spark-2.3.4-bin-hadoop2.6.tgz http://mirror.bit.edu.cn/apache/spark/spark-2.3.4/spark-2.3.4-bin-hadoop2.6.tgz && \ cd /tmp/ &&...原创 2020-03-31 14:24:54 · 382 阅读 · 0 评论