ceph-deploy部署ceph集群

  • 关闭系统iptables /selinux (这一步很关键)
service iptables stop
chkconfig iptables off

vim /etc/sysconfig/selinux
SELINUX=disabled

重启系统 shutdown -r now
  • 部署规划
ceph-deploy-->node1 and node2 and node3 and node...N

  • 创建ceph.repo源
vim /etc/yum.repos.d/ceph.repo 

baseurl=http://ceph.com/rpm-firefly/el6/$basearch
priority=1
gpgcheck=1
type=rpm-md

[ceph-source]
name=Ceph source packages
gpgkey=https://ceph.com/git/?p=ceph.git;a=blob_plain;f=keys/release.asc
enabled=1
baseurl=http://ceph.com/rpm-firefly/el6/SRPMS
priority=1
gpgcheck=1
type=rpm-md

[Ceph-noarch]
name=Ceph noarch packages
gpgkey=https://ceph.com/git/?p=ceph.git;a=blob_plain;f=keys/release.asc
enabled=1
baseurl=http://ceph.com/rpm-firefly/el6/noarch
priority=1
gpgcheck=1
type=rpm-md

  • 在admin-node安装ceph-deploy
yum install -y http://dl.fedoraproject.org/pub/epel/6/x86_64/epel-release-6-8.noarch.rpm
yum install -y ceph-deploy

  • openssh-server 无密码访问
  1. 所以节点安装  yum install openssh-server 
  2. 关闭防火墙和selinux
  3. 修改/etc/sudoers的第 56行 加个!
  4. sshgen-key  ssh-copy-id  主机
  5. 测试无密码访问正常
  • ceph-deploy 创建指导节点为mon节点  ceph-deploy  new zz-mon.zyunsoft.com
  • 修改ceph.conf配置文件 
添加如下:
osd pool default size = 3

[osd]
osd_mount_options_xfs = rw,noatime
keyring = /etc/ceph/keyring.$name
osd_mkfs_options_xfs = -f
public_network = 192.168.20.0/24
osd_mkfs_type = xfs
cluster_network = 172.16.20.0/24
osd_journal_size = 16384

  • 登录各节点安装ceph    
yum install *argparse* -y
ceph-deploy install zz-com04 zz-store01 zz-store02 zz-store03
  • 添加初始监控节点并收集密钥
ceph-deploy mon create-initial
  • 在一个节点列出磁盘, 执行以下命令:
ceph-deploy disk list zz-store01 zz-store02 zz-store03
  • 在主分区中使用Ceph遥控磁盘 (删除它的分区表) ,执行以下命令: (重要:这会删除所有数据)
ceph-deploy disk zap zz-store01:sdb  zz-store01:sdc zz-store01:sdd zz-store01:sde  zz-store02:sdb  zz-store02:sdc zz-store02:sdd zz-store02:sde zz-store03:sdb  zz-store03:sdc zz-store03:sdd zz-store03:sde
  • 安装每个节点的硬盘去集群
ceph-deploy osd create zz-store01:sdb:/srv/ceph/osd.0 zz-store01:sdc:/srv/ceph/osd.1 zz-store01:sdd:/srv/ceph/osd.2 zz-store01:sde:/srv/ceph/osd.3 zz-store02:sdb:/srv/ceph/osd.4 zz-store02:sdc:/srv/ceph/osd.5 zz-store02:sdd:/srv/ceph/osd.6 zz-store02:sde:/srv/ceph/osd.7 zz-store03:sdb:/srv/ceph/osd.8  zz-store03:sdc:/srv/ceph/osd.9 zz-store03:sdd:/srv/ceph/osd.10 zz-store03:sde:/srv/ceph/osd.11
  • copy ceph.conf  ceph.client.admin.keyring 配置文件去其他节点
ceph-deploy admin zz-store01 zz-store02 zz-store03
  • 添加osd去集群、
ceph-deploy osd --zap-disk create zz-store03:sde
  • 在ceph_node上查看集群硬盘,
ceph osd ls
ceph osd tree
  • 创建ceph mds节点
ceph mds create zz-store01

  • 添加集群文件去开机启动1
1.依据下面的在/etc/fstab  添加挂载点
/dev/sdb1                /var/lib/ceph/osd/ceph-4  xfs   rw,noexec,nodev,noatime,nodiratime,barrier=0   0 0
/dev/sdc1                /var/lib/ceph/osd/ceph-5  xfs   rw,noexec,nodev,noatime,nodiratime,barrier=0   0 0
/dev/sdd1                /var/lib/ceph/osd/ceph-6  xfs  rw,noexec,nodev,noatime,nodiratime,barrier=0   0 0
/dev/sde1                /var/lib/ceph/osd/ceph-7  xfs  rw,noexec,nodev,noatime,nodiratime,barrier=0   0 0

2.修改/etc/rc.local
/etc/init.d/ceph restart



部署参考:
<think>嗯,用户想在麒麟V10操作系统上用ceph-deploy部署Ceph集群。首先,我需要确认ceph-deploy的版本是否支持Kylin V10。根据引用[4],用户提到ceph-deploy-1.5.39版本没有mgr的部署选项,可能需要注意版本兼容性。Ceph L版本12.2.12可能需要特定版本的ceph-deploy,可能需要用户检查官方文档或社区支持。 然后,用户的环境准备方面,需要确保所有节点的主机名解析正确,SSH免密登录配置好,以及防火墙和SELinux的设置。引用[3]中提到磁盘必须未使用且没有数据,所以在部署OSD时要注意这一点。另外,引用[2]指出Ceph的核心组件,包括Monitor、Manager、OSD等,部署时需要按照步骤依次安装这些组件。 可能遇到的问题包括网络无法访问Ceph官网,导致依赖包安装失败。这时候可能需要配置本地源或者使用离线安装包。另外,麒麟V10是基于CentOS的,可能需要处理依赖包冲突,比如Python版本的问题。引用[1]提到ceph-deploy的配置文件位置,用户可能需要根据情况调整配置文件。 在部署步骤中,初始化Monitor节点是关键,如果失败需要检查时钟同步和主机名解析。创建OSD时,确保磁盘正确,可能需要使用ceph-deploy osd create命令,如引用[3]中的例子。最后,部署MGR和MDS也是必须的,但引用[4]指出旧版可能不支持,所以需要确认ceph-deploy版本是否包含这些功能。 测试集群状态时,ceph -s命令可以查看健康状况,如果出现错误,可能需要检查各个服务的日志。常见问题如网络问题、权限问题或者依赖缺失都需要逐步排查。用户可能需要参考引用中的配置文件和命令示例,确保每一步都正确执行。</think>### 在Kylin V10中使用ceph-deploy部署Ceph集群的步骤 #### 一、环境准备 1. **节点规划** - 至少3个节点(1个`ceph-deploy`管理节点,1个Monitor节点,多个OSD节点) - 示例配置: - 管理节点:`admin-node` - Monitor节点:`ceph-mon1` - OSD节点:`ceph-osd1`, `ceph-osd2` 2. **系统配置** - 所有节点配置主机名解析(`/etc/hosts`或DNS) - 配置SSH免密登录(管理节点到其他节点) - 关闭防火墙和SELinux: ```bash systemctl stop firewalld setenforce 0 ``` 3. **依赖安装** - 在管理节点安装`ceph-deploy`: ```bash yum install -y python3-pip pip3 install ceph-deploy==2.0.1 # 选择兼容Kylin V10的版本[^4] ``` #### 二、部署Ceph集群 1. **初始化集群配置** ```bash mkdir ceph-cluster && cd ceph-cluster ceph-deploy new ceph-mon1 # 生成初始配置文件[^1] ``` 2. **安装Ceph组件** ```bash ceph-deploy install --release luminous admin-node ceph-mon1 ceph-osd1 ceph-osd2 ``` > 注意:若网络受限,需提前配置本地Yum源[^4] 3. **部署Monitor** ```bash ceph-deploy mon create-initial ceph-deploy admin admin-node ceph-mon1 # 同步配置文件[^2] ``` 4. **部署OSD** - 清理磁盘(以`/dev/sdb`为例): ```bash ceph-deploy disk zap ceph-osd1 /dev/sdb[^3] ``` - 创建OSD: ```bash ceph-deploy osd create --data /dev/sdb ceph-osd1 ceph-deploy osd create --data /dev/sdb ceph-osd2 ``` 5. **部署MGR和MDS(可选)** ```bash ceph-deploy mgr create ceph-mon1 ceph-deploy mds create ceph-mon1 ``` #### 三、验证集群状态 ```bash ssh ceph-mon1 ceph -s # 检查HEALTH_OK状态 ``` #### 四、常见问题处理 | 问题现象 | 解决方案 | |---------|----------| | `ceph-deploy`安装失败 | 检查Python3版本,建议3.6+ | | Monitor启动超时 | 确认节点时钟同步(NTP服务) | | OSD无法创建 | 检查磁盘是否未分区(使用`lsblk`验证)[^3] | ###
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值