spark-0.8.1安装——基础环境

本文详细介绍了在VirtualBox环境下,使用脚本进行Fedora-20集群的部署与资源同步的过程,包括环境配置、主机只模式设置、目录文件同步、SSH无密码访问配置、JDK与Scala的安装等步骤。

环境

virtualbox下host-only模式的4台Fedora-20机器,均为64位机器

192.168.56.102 Fedora01
192.168.56.103 Fedora02
192.168.56.104 Fedora03
192.168.56.105 Fedora04

把下面脚本放在Fedora01机器上,用于同步目录和文件到其他机器,下面的同步操作均在Fedora01上操作

#!/bin/bash

declare -a slaves

function abs_path()
{
	if [ $# != 1 ]; then
		echo ""
	else
		echo $(cd $(dirname $1); pwd)
	fi
}

function init_slaves()
{
	for ((i=2;i<=4;i++)); do
		slaves[$(($i-01))]="Fedora0$i"
	done
}

function usage()
{
	echo "Usage: $0 file1 [file1] [...]"
}

function check_input()
{
	for i in $*; do
		if ! [ -a $i ]; then
			usage
			echo -e "\033[31m$i does not exist, nothing syned\033[0m"
			return 1
		fi
	done
	return 0
}

if [ $# -lt 1 ]; then
	usage
	exit 1
fi

if ! check_input $*; then
	exit 1
fi


init_slaves

for i in ${slaves[*]}; do
	for j in $*; do
		echo -e "\033[32mrsync -Pav $j $i:$(abs_path $j)/\033[0m"
		if ! rsync -Pav $j $i:$(abs_path $j)/;then
			echo -e "\033[31msync failed\033[0m"
			exit 1
		fi
	done
done

配置/etc/hosts

同步到其他机器:./sync-cluster.sh /etc/hosts

配置ssh无密码访问

1. 在四台机器上分别root登录,执行ssh-keygen,一路回车;

2. 在机器Fedora01执行下面的操作

  2.1 在~/.ssh/目录下新建authorized_keys文件,把四台机器下的文件~/.ssh/id_rsa.pub文件内容加入到该文件;

  2.2从Fedora01 登录四台机器,这个过程会往~/.ssh/known_hosts添加内容;

  2.3 同步~/.ssh/authorized_keys和~/.ssh/known_hosts到其他机器:./sync-cluster.sh ~/.ssh/authorized_keys ~/.ssh/known_hosts

jdk安装

1. 从http://www.oracle.com/technetwork/java/javase/downloads/jdk7-downloads-1880260.html下载tar.gz格式的,32位和64位机器对应下载,这里下的是64位的

  wget http://download.oracle.com/otn-pub/java/jdk/7u51-b13/jdk-7u51-linux-x64.tar.gz

2. 解压到/usr/local

  tar -jxvf jdk-7u51-linux-x64.tar.gz -C /usr/local

3. 配置符号链接:cd /usr/local; ln -snf jdk1.7.0_45/ jdk

4. 配置环境变量到~/.bashrc

export JAVA_HOME="/usr/local/jdk"
export PATH="$JAVA_HOME/bin:$PATH"

5. 同步到其他机器:  ~/sync-cluster.sh jdk jdk1.7.0_45 ~/.bashrc

scala安装

1. 下载scala-2.9.3,注意spark-0.8.1依赖这个版本的scala,不能用最新的

  wget http://www.scala-lang.org/files/archive/scala-2.9.3.tgz

2. 解压到/usr/local

  tar -zxvf scala-2.9.3.gz -C /usr/local

3. 符号链接:cd /usr/local; ln -snf scala-2.9.3/ scala

4. 配置环境变量到~/.bashrc

export SCALA_HOME="/usr/local/scala"
export PATH="$SCALA_HOME/bin:$PATH"

5. 同步到其他机器:~/sync-cluster.sh scala scala-2.9.3 ~/.bashrc

6. 测试,先source ~/.bashrc



采用PyQt5框架与Python编程语言构建图书信息管理平台 本项目基于Python编程环境,结合PyQt5图形界面开发库,设计实现了一套完整的图书信息管理解决方案。该系统主要面向图书馆、书店等机构的日常运营需求,通过模块化设计实现了图书信息的标准化管理流程。 系统架构采用典型的三层设计模式,包含数据存储层、业务逻辑层和用户界面层。数据持久化方案支持SQLite轻量级数据库与MySQL企业级数据库的双重配置选项,通过统一的数据库操作接口实现数据存取隔离。在数据建模方面,设计了包含图书基本信息、读者档案、借阅记录等核心数据实体,各实体间通过主外键约束建立关联关系。 核心功能模块包含六大子系统: 1. 图书编目管理:支持国际标准书号、中国图书馆分类法等专业元数据的规范化著录,提供批量导入与单条录入两种数据采集方式 2. 库存动态监控:实时追踪在架数量、借出状态、预约队列等流通指标,设置库存预警阈值自动提醒补货 3. 读者服务管理:建立完整的读者信用评价体系,记录借阅历史与违规行为,实施差异化借阅权限管理 4. 流通业务处理:涵盖借书登记、归还处理、续借申请、逾期计算等标准业务流程,支持射频识别技术设备集成 5. 统计报表生成:按日/月/年周期自动生成流通统计、热门图书排行、读者活跃度等多维度分析图表 6. 系统维护配置:提供用户权限分级管理、数据备份恢复、操作日志审计等管理功能 在技术实现层面,界面设计遵循Material Design设计规范,采用QSS样式表实现视觉定制化。通过信号槽机制实现前后端数据双向绑定,运用多线程处理技术保障界面响应流畅度。数据验证机制包含前端格式校验与后端业务规则双重保障,关键操作均设有二次确认流程。 该系统适用于中小型图书管理场景,通过可扩展的插件架构支持功能模块的灵活组合。开发过程中特别注重代码的可维护性,采用面向对象编程范式实现高内聚低耦合的组件设计,为后续功能迭代奠定技术基础。 资源来源于网络分享,仅用于学习交流使用,请勿用于商业,如有侵权请联系我删除!
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
红包 添加红包
表情包 插入表情
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值