Confd+etcd实现高可用自动发现

最新推荐文章于 2025-03-20 10:23:26 发布
最新推荐文章于 2025-03-20 10:23:26 发布
阅读量2.2k 收藏 7
点赞数
分类专栏： Architechure

#Confd是一个轻量级的配置管理工具。
通过查询Etcd，结合配置模板引擎，保持本地配置最新，同时具备定期探测机制，配置变更自动reload。
其后端支持的数据类型有：etcd、consul、vault、environment variables、redis、zookeeper、dynamodb、stackengine、rancher。不过一般使用Confd和etcd的配合使用比较多。
其常用架构如下：
这里写图片描述
#一、简单配置

##1、配置etcd数据

具体步骤这里略过，这里只配置两条数据

etcdctl set /myapp/database/url www.361way.com
etcdctl set /myapp/database/user rob

##2、confd安装

confd比较简单就一个文件，拿过来就可以执行，可以从github上下载：https://github.com/kelseyhightower/confd/releases ，并将其放到/usr/local/bin目录下即可。不过使用前需要创建相应的配置目录：

[root@etcd1 bin]# mkdir -p /etc/confd/{conf.d,templates}

##3、创建confd配置文件

# vim  /etc/confd/conf.d/myconfig.toml
[template]
src = "myconfig.conf.tmpl"
dest = "/tmp/myconfig.conf"
keys = [
    "/myapp/database/url",
    "/myapp/database/user",
]

##4、创建模板文件

# vim /etc/confd/templates/myconfig.conf.tmpl
[myconfig]
database_url = {{getv "/myapp/database/url"}}
database_user = {{getv "/myapp/database/user"}}

##5、执行生成配置文件

confd -onetime -backend etcd -node http://127.0.0.1:2379    只一次
confd -interval=60 -backend etcd -node http://127.0.0.1:2379 &   按时间轮询
使用onetime参数的，配置文件生成一次后，confd程序就退出了，下面的那句，会每隔60秒轮询一次。一旦后端etcd相应的值发生变化就会重新生成相应的配置文件。

##6、验证文件生成

[root@etcd1 tmp]# cat /tmp/myconfig.conf
[myconfig]
database_url = www.361way.com
database_user = rob

#二、etcd+confd+nginx配置

##1、创建数据

etcdctl set /myapp/subdomain myapp
etcdctl set /myapp/upstream/app2 "10.0.1.100:80"
etcdctl set /myapp/upstream/app1 "10.0.1.101:80"
etcdctl set /yourapp/subdomain yourapp
etcdctl set /yourapp/upstream/app2 "10.0.1.102:80"
etcdctl set /yourapp/upstream/app1 "10.0.1.103:80"

##2、创建配置文件

# cat /etc/confd/conf.d/myapp-nginx.toml
[template]
prefix = "/myapp"
src = "nginx.tmpl"
dest = "/tmp/myapp.conf"
owner = "nginx"
mode = "0644"
keys = [
  "/subdomain",
  "/upstream",
]
check_cmd = "/usr/sbin/nginx -t -c {{.src}}"
reload_cmd = "/usr/sbin/service nginx reload"
# cat /etc/confd/conf.d/yourapp-nginx.toml
[template]
prefix = "/yourapp"
src = "nginx.tmpl"
dest = "/tmp/yourapp.conf"
owner = "nginx"
mode = "0644"
keys = [
  "/subdomain",
  "/upstream",
]
check_cmd = "/usr/sbin/nginx -t -c {{.src}}"
reload_cmd = "/usr/sbin/service nginx reload"

这里创建了两个配置文件。接下来创建一个模板文件，两个配置文件会根据该模板文件生成配置：

# cat /etc/confd/templates/nginx.tmpl
upstream {{getv "/subdomain"}} {
{{range getvs "/upstream/*"}}
    server {{.}};
{{end}}
}
server {
    server_name  {{getv "/subdomain"}}.example.com;
    location / {
        proxy_pass        http://{{getv "/subdomain"}};
        proxy_redirect    off;
        proxy_set_header  Host             $host;
        proxy_set_header  X-Real-IP        $remote_addr;
        proxy_set_header  X-Forwarded-For  $proxy_add_x_forwarded_for;
   }
}

##3、验证

在进行验证启用的时候，会发现有如下报错：

[root@etcd1 conf.d]# 2017-05-08T19:06:07+08:00 etcd1 confd[10949]: INFO Target config /tmp/myapp.conf out of sync
2017-05-08T19:06:07+08:00 etcd1 confd[10949]: ERROR "nginx: [emerg] \"upstream\" directive is not allowed here in /tmp/.myapp.conf835093196:1\nnginx: configuration file /tmp/.myapp.conf835093196 test failed\n"
2017-05-08T19:06:07+08:00 etcd1 confd[10949]: ERROR Config check failed: exit status 1
2017-05-08T19:06:07+08:00 etcd1 confd[10949]: INFO Target config /tmp/yourapp.conf out of sync
2017-05-08T19:06:07+08:00 etcd1 confd[10949]: ERROR "nginx: [emerg] \"upstream\" directive is not allowed here in /tmp/.yourapp.conf196880350:1\nnginx: configuration file /tmp/.yourapp.conf196880350 test failed\n"
2017-05-08T19:06:07+08:00 etcd1 confd[10949]: ERROR Config check failed: exit status 1

原因很简单，注意配置文件中的check_cmd 命令，该命令会进行配置文件检测，检测不通过时，配置文件不会修改，且不会执行后面的reload_cmd命令。这里想不报错也很简单，将配置文件中nginx的配置指向正确的位置，而且让nginx可以正常检测，且检测结果没有错误。再次执行命令，并修改配置文件，会发现有如下信息：

# cat myapp.conf
upstream myapp {
    server 10.0.1.100:80;
    server 10.0.1.101:80;
}
server {
    server_name  myapp.example.com;
    location / {
        proxy_pass        http://myapp;
        proxy_redirect    off;
        proxy_set_header  Host             $host;
        proxy_set_header  X-Real-IP        $remote_addr;
        proxy_set_header  X-Forwarded-For  $proxy_add_x_forwarded_for;
   }
}

#三、其他

在模板文件中，会用到一些函数：map、base、exists、get、gets、getenv、datetime等 ，关于这些函数的使用，可以参看官方文档templates 。

这里再贴下 confd对于模板渲染的语法，貌似没有for这个函数，然后还缺少自定义函数的功能 .

##exists
如果这个key在etcd定义了的话？

{{if exists "/key"}}
    value: {{getv "/key"}}
{{end}}

{{if exists "/key"}}
    value: {{getv "/key"}}
{{end}}

##get

如果这个key没有，他不会返回一个error

{{with get "/key"}}
    key: {{.Key}}
    value: {{.Value}}
{{end}}
 
{{with get "/key"}}
    key: {{.Key}}
    value: {{.Value}}
{{end}}

##gets
Returns all KVPair, []KVPair, where key matches its argument. Returns an error if key is not found.

{{range gets "/*"}}
    key: {{.Key}}
    value: {{.Value}}
{{end}}
 
{{range gets "/*"}}
    key: {{.Key}}
    value: {{.Value}}
{{end}}

##getv
Returns the value as a string where key matches its argument. Returns an error if key is not found.

value: {{getv "/key"}} 
value: {{getv "/key"}}

##getvs
Returns all values, []string, where key matches its argument. Returns an error if key is not found.

{{range getvs "/*"}}
    value: {{.}}
{{end}}

{{range getvs "/*"}}
    value: {{.}}
{{end}}

##datetime
Alias for time.Now

# Generated by confd {{datetime}}
# Generated by confd {{datetime}}
Outputs:
# Generated by confd 2015-01-23 13:34:56.093250283 -0800 PST
# Generated by confd 2015-01-23 13:34:56.093250283 -0800 PST
# Generated by confd {datetime.Format("Jan 2, 2006 at 3:04pm (MST)")}
# Generated by confd {datetime.Format("Jan 2, 2006 at 3:04pm (MST)")}
Outputs:
# Generated by confd Jan 23, 2015 at 1:34pm (EST)
# Generated by confd Jan 23, 2015 at 1:34pm (EST)

See the time package for more usage: http://golang.org/pkg/time/

##split
可以对于一条数据进行自定义切分，splite

{{ $url := split (getv "/deis/service") ":" }}
    host: {{index $url 0}}
    port: {{index $url 1}}

{{ $url := split (getv "/deis/service") ":" }}
    host: {{index $url 0}}
    port: {{index $url 1}}

##json
Returns an map[string]interface{} of the json value.

etcd+confd 基本上可以和任何应用进行组合，如网上比较常见的etcd+confd+nginx 、etcd+confd+haproxy 、etcd+confd+k8s、etcd+confd+tomcat等等。
和tomcat的整合，在官方上也有相应的示例，具体可以参看官方文档tomcat-sample 。

confd和etcd 的安装与使用
qq_39215216的博客
09-03 1360
（转载）confd 的安装与使用 转载自[菲宇]表示感谢(https://blog.youkuaiyun.com/bbwangj/article/details/82953786)，如有不妥，请联系作者删除。 一、概述 当系统变的复杂，配置项越来越多，一方面配置管理变得繁琐，另一方面配置修改后需要重新上线同样十分痛苦。这时候，需要有一套集中化配置管理系统，一方面提供统一的配置管理，另一方面提供配置变更的自动下发，及时生效。 说道统一配置管理系统，大家应该比较熟悉，常见的：zookeeper、etcd、consul、.
使用confd和etcd建立基于Nginx的服务发现和负载均衡服务
DXZCZH的博客
03-09 2260
这篇文章首先尽量详细地介绍了使用Nginx作反向代理服务器和负载均衡，接着简单介绍了Etcd，最后介绍如何使用Confd建立基于Nginx和Etcd的服务发现和负载均衡。 1. Nginx概述 NGINX有一个主进程和一个或多个工作进程 主进程的主要目的是读取和检查配置文件，以及维护工作进程 工作进程执行请求的实际处理。工作进程的数量由Nginx中的“worker_processes”指令定义，...
入门ETCD——配合confd实现配置管理
qq_33816243的博客
03-28 1541
Confd是一个轻量级的配置管理工具。通过查询后端存储，结合配置模板引擎，保持本地配置最新，同时具备定期探测机制，配置变更自动reload。对应的后端存储可以是etcd，redis、zookeeper等。
etcd如何实现高可用、数据强一致的？
最新发布
qq_33240556的博客
03-20 624
大家好，我是程序员贵哥（抖音号：1717983460）。在前面的etcd读写流程学习中，我和你多次提到了etcd是基于Raft协议实现高可用、数据强一致性的。那么etcd是如何基于Raft来实现高可用、数据强一致性的呢？这节课我们就以上一节中的hello写请求为案例，深入分析etcd在遇到Leader节点crash等异常后，Follower节点如何快速感知到异常，并高效选举出新的Leader，对外提供高可用服务的。
Etcd+Confd实现Nginx配置文件自动管理
weixin_33717117的博客
03-24 660
一、需求我们使用Nginx做七层负载均衡，后端是Tomcat。项目采用灰度发布方式，每次项目升级，都要手动先从Nginx下摘掉一组，然后再升级这组，当项目快速迭代时，手动做这些操作显然会增加部署时间，于是就想通过脚本实现自动化管理Nginx配置文件。当时考虑自己写Shell脚本对Nginx配置文件操作，需要用到sed流编辑器，sed本身没有条件判断语句，并不能灵活判断配置文件中要添加/删除位置，因...
Etcd+Confd 管理Nginx配置文件
叱咤少帅的博客
04-06 4292
背景 手写Nginx的upsteam麻烦并且容易出错，想通过类似Kong的Restfull的api形式操作upsteam节点。 架构图 etcd：分布式KV存储系统，一般用于共享配置和服务注册与发现。是CoreOS公司发起的一个开源项目。 ETCD存储格式类似于文件系统，以根"/"开始下面一级级目录，最后一个是Key，一个key对应一个Value。 etcd集群：使用Raft协议保证每个节点数据一致，由多个节点对外提供服务。这里只用单台。 confd：管理本地应用配置文件，使用etc.
Etcd+Confd实现配置文件动态更新
海哥python的博客
10-23 565
简介 如上图是一个很简单的架构，生产环境中经常会进行灰度发布，需要下掉一部分的节点。如果靠人工操作很容易错误，这里通过Etcd和Confd来实现nginx upstream的动态更新。 类似的，自动化部署时服务的环境变量等也可存入etcd(配置中心website页面)，coredns等配置文件内容均可存入etcd，由confd动态刷新。 etcd: 分布式KV存储系统，一般用于共享配置和服务注册与发现。 confd：管理本地应用配置文件，使用etcd或consul存储的数据渲染模板，还支持redis、zo
使用Haproxy+etcd+confd构建高可用Docker架构
"本文将详细介绍如何利用Haproxy、Etcd和ConfD构建一个高可用及自动发现的Docker基础架构。Docker的广泛应用和成熟生态促使企业寻求适合自己的构建方案，其中Haproxy+etcd+confd的组合因其灵活性和扩展性而备受青睐...
基于Haproxy+etcd+confd的高可用Docker基础架构构建
本文将详细介绍如何使用Haproxy+etcd+confd构建一个高可用及自动发现的Docker基础架构。该架构称为HECD架构，整合了多种开源组件，具有自动发现、高可用、负载均衡、故障迁移、资源弹性等优势。 一、架构优势 HECD...
服务环境搭建-Etcd+Confd服务注册与发现
banmajio的博客
03-22 1015
服务环境搭建-Etcd+Confd服务注册与发现 1. 说明 1.1 简介 Etcd是一个分布式、高可用的Key/Value存储系统，主要用于分享配置与服务发现。 Confd是一个轻量级的配置管理工具。通过查询Etcd，结合配置模板引擎，保持本地配置最新，同时具备定期探测机制，配置变更自动reload。对应的后端存储可以是etcd，redis、zookeeper等。 1.2 服务注册与发现业务流程 以nginx为例，当docker容器健康运行起来后，会通过接口向etcd注册相关k/v信息，con
使用etcd+confd+nginx实现动态反向代理
uxff的专栏
05-31 3976
confd介绍 confd是一个轻量级的配置管理工具，源码地址：https://github.com/kelseyhightower/confd，它可以将配置信息存储在etcd、consul、dynamodb、redis以及zookeeper等。confd定期会从这些存储节点pull最新的配置，然后重新加载服务，完成配置文件的更新。 场景 现有应用服务a1,a2,a3,…提供http服务。 ...
Conf_Web:django + etcd + confd 配置管理平台
05-13
Conf_Web 配置管理平台 环境: CentOS 6/7 x64 Python: 2.7.6 Etcd： 3.2.18 Confd: 0.16.0 Nginx: 1.12.1 效果演示 一.拓扑图: 二．涉及软件 etcd：分布式KV存储系统，一般用于共享配置和服务注册与发现。是CoreOS公司发起的一个开源项目。 ETCD存储格式类似于文件系统，以根"/"开始下面一级级目录，最后一个是Key，一个key对应一个Value。 etcd集群：使用Raft协议保证每个节点数据一致，由多个节点对外提供服务。这里只用单台。 confd：管理本地应用配置文件，使用etcd或consul存储的数据渲染模板，还支持redis、zookeeper等。 confd有一个watch功能，通过HTTP API定期监测对应的etcd中目录变化，获取最新的Value，然后渲染模板 Nginx: Nginx
varnish-auto:Docker 容器使用 varnish、registrator、confd 和 etcd 自动对其他容器进行负载均衡
07-09
构建镜像 docker build -t kevineye/docker-sample-hovers docker-sample-hovers docker build -t kevineye/docker-sample-slideshow docker-sample-slideshow docker build -t kevineye/varnish-auto varnish-auto 启动依赖 在这些示例中， 192.168.59.103是 docker 主机。 # start etcd docker run --name etcd -d -p 4001:4001 -p 7001:7001 quay.io/coreos/etcd:v0.4.6 -addr 192.168.59.103:4001 # start registrator docker run --name regis
nginx-confd-etcd:基于etcd和registrator为confd配置nginx的Docker容器
06-15
nginx-confd-etcd 集装箱配置基于由生成的值 。 主要用于集群。 我从开始，但我不喜欢 sidekick 实例的想法。 我将 sidekick 更改为 Registrator 并在 Confd 配置中进行了一些更改。 集群配置的先决条件 这个 docker 镜像是为 CoreOs 集群制作的。 （详细的集群设置很快。）您需要在每个集群节点上工作注册器，并需要创建以域名和实例命名的 docker Fleet 单元。 例如，如果您想运行单元，则需要将 docker 实例命名为“wordpress.example.com”。 docker run --name wordpress.example.com --link some-mysql:mysql -p 80 -d wordpress Registrator 将在 '/services/wordpress/core01.m
confd+etcd实现高可用自动发现
weixin_30439131的博客
03-10 189
Confd是什么 Confd是一个轻量级的配置管理工具。 通过查询后端存储，结合配置模板引擎，保持本地配置最新，同时具备定期探测机制，配置变更自动reload。 对应的后端存储可以是etcd，redis、zookeeper等等 我们以etcd为后端来演示confd的使用，用最简单粗暴的方式教大家学会动态生成配置 一.准备confd依赖的存储etcd etcd -listen-client-urls...
Hadoop大数据框架学习（配置启动篇）
qq_43203949的博客
06-11 8805
Hadoop大数据框架学习（配置启动篇） 大数据的特点： Volume(大量)：数据量到达PB,EB级别 Velocity(高速): 要求处理海量数据效率高速度快 Variety(多样)：数据的样化。（结构化数据，非结构化数据和半结构化数据） Value(低价值密度)：价值密度低，难以提取出有价值的信息。 Hapood是什么 Hadoop是一个由Apache开发的分布式系统基础架构，主要解决，海量数据的存储和分析计算。Hadoop通常是说Hadoop生态圈。 Google的三论文 Google是Hado
linux confd作用,confd和etcd实现配置管理及模板使用
weixin_42563415的博客
05-13 621
关于confd是什么？confd是一个可以在etcd和consul的基础上实现配置管理的工具。 etcd和consul在功能上是有些重叠的，所以咱们就拿etcd来测试吧。再简单来描述下conf，他是可以从etcd里面获取kv数据，然后通过咱们提前定制的模板，渲染配置文件。。。。 然后可以check_md 和 reload_md文章本来在github看到的，自己又重新加了点料。https://gi...
Etcd+Confd实现配置文件变化自动更新prometheus服务
Kammingo的博客
04-01 1204
一、部署步骤 1、confd部署 # wget https://github.com/kelseyhightower/confd/releases/download/v0.16.0/confd-0.16.0-linux-amd64 # mv confd-0.16.0-linux-amd64 /usr/local/confd # chmod +x /usr/local/confd # cd /usr/local/confd # ./confd --help 2、confd配置 confd通过读取后端存储的配
利用etcd及confd实现配置自动管理
weixin_30794851的博客
03-19 411
ETCD etcd 架设etcd集群 静态启动etcd集群需要每个成员在集群中知道另一个成员。在许多情况下，集群成员的IP可能提前未知。在这种情况下，可以使用etcd集群的自动发现服务。一旦etcd集群启动并运行，可以通过运行时重新配置完成添加或删除成员。 下面是三种典型的启动配置 具体参照官方介绍 etcd clustering 静态配置 etcd发现 DNS发现 下面将在以下三台主机上搭建...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值