部署Doris

以下是部署Doris三节点FE(Frontend)和三节点BE(Backend)的完整流程,整合了最佳实践和避坑指南。

在这里插入图片描述


📋 一、部署前准备

  1. 系统要求

    • 硬件
      • FE节点:16核+ CPU、64GB+内存、SSD元数据盘(≥100GB)
      • BE节点:16核+ CPU、64GB+内存、数据盘(总容量=原始数据×3副本×1.4预留)
    • 软件
      • JDK 1.8(所有节点)
      • 关闭防火墙 & Swap:systemctl disable firewalld + swapoff -a(永久生效需注释/etc/fstab中swap行)
      • 文件句柄数:
        echo "* soft nofile 65536" >> /etc/security/limits.conf
        echo "* hard nofile 65536" >> /etc/security/limits.conf
        sysctl -w vm.max_map_count=2000000  # 防BE启动失败
        
  2. 下载与解压
    所有节点执行:

    wget https://apache-doris-releases.oss-accelerate.aliyuncs.com/apache-doris-2.0.8-bin-x64-noavx2.tar.gz
    tar -zxvf apache-doris-2.0.8-bin-x64-noavx2.tar.gz
    mv apache-doris-2.0.8-bin-x64-noavx2 /opt/doris
    

⚙️ 二、配置FE集群(3节点)

以192.168.0.103为Master FE为例:

  1. 修改配置文件 (fe/conf/fe.conf)
    所有FE节点配置:

    priority_networks = 192.168.0.0/24  # 绑定本机网段
    meta_dir = /data/doris-meta          # 必须SSD独立目录
    JAVA_OPTS = "-Xmx16G"                # 堆内存≥8GB
    
  2. 启动FE服务

    • Master节点(103)
      ./bin/start_fe.sh --daemon
      
    • Follower节点(104/105)
      ./bin/start_fe.sh --helper 192.168.0.103:9010 --daemon  # 指向Master
      
  3. 添加FE节点到集群
    通过MySQL客户端连接Master FE:

    mysql -h 192.168.0.103 -P 9030 -uroot
    

    执行:

    ALTER SYSTEM ADD FOLLOWER "192.168.0.104:9010";  -- Follower角色
    ALTER SYSTEM ADD OBSERVER "192.168.0.105:9010";  -- Observer角色
    

    💡 提示:使用 SHOW PROC '/frontends'; 检查所有FE的Alive状态为true


🖥️ 三、配置BE集群(3节点)

所有BE节点配置:

  1. 修改配置文件 (be/conf/be.conf)

    priority_networks = 192.168.0.0/24  # 绑定本机IP
    storage_root_path = /data1/doris.HDD;/data2/doris.SSD  # 多路径用分号隔开
    be_port = 9060    # 通信端口
    brpc_port = 8060  # 高性能RPC端口
    
  2. 启动BE服务

    ./bin/start_be.sh --daemon
    
  3. 添加BE节点到集群
    在Master FE的MySQL客户端执行:

    ALTER SYSTEM ADD BACKEND "192.168.0.103:9050";
    ALTER SYSTEM ADD BACKEND "192.168.0.104:9050";
    ALTER SYSTEM ADD BACKEND "192.168.0.105:9050";
    

    验证SHOW PROC '/backends'; 需满足:

    • Alive: true
    • AvailCapacity显示实际磁盘容量(非1.00 B)。

🧪 四、集群验证与测试

  1. 基础功能测试

    CREATE DATABASE test;
    USE test;
    CREATE TABLE t1 (k1 INT, k2 VARCHAR(10)) 
    ENGINE=OLAP DISTRIBUTED BY HASH(k1) BUCKETS 3 
    PROPERTIES("replication_num"="3");  -- 三副本
    INSERT INTO t1 VALUES (1,'a'),(2,'b');
    SELECT * FROM t1;  -- 检查数据一致性
    
  2. 监控与高可用

    • FE状态:curl http://192.168.0.103:8030/api/bootstrap 返回{"status":"OK"}
    • 模拟故障:停用一个FE/BE,观察查询是否自动切换。

⚠️ 五、常见问题解决

  1. FE节点无法加入集群

    • 删除所有非Master节点的meta_dir目录,重新启动。
    • 检查edit_log_port(默认9010)是否开放。
  2. BE显示AvailCapacity=1.00 B

    • 检查FE与BE的cluster_id是否一致(修改BE的storage/cluster_id文件)。
    • 确认BE存储路径权限(需doris用户可写)。
  3. BE启动失败

    • 检查系统参数:vm.max_map_count和文件句柄数。
    • 日志分析:be/log/be.INFO

部署完成后,建议通过Grafana监控集群指标(如FE查询延迟、BE磁盘使用率)。

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值