qq_42150559的博客

企业级情境我们使用的是k8s的ingress来做反向代理而实际使用发现，线上使用这种ingress很不方便。原因如下：1.域名太多不好管理2.我们使用的是charts自动发布到k8s，每次修改特殊的域名，都会新增一个charts3.ingress没有可视化界面3.ingress没办法批量修改，脚本又包括所有的特殊情况所以我们引进了Kong一个比ingress更好用的api网关k...

背景看了网上很多文档，说是要设置log.retention.hour等等参数。默认是保留7天，但我实测下来发现日志根本没有任何变化。目前我们的kafka，一天就有400多个G，保留七天大大增加了我们的服务器成本。不生效的设置#设置日志只保留一个小时的 "log.retention.hours": 1#设置大于500M就自动删除 "log.retention.bytes": "5...

问题logstash消费速率远低于日志数量,消息堆积部署背景架构优点：1、采用kafka作为日志缓冲，在高并发情况下可以通过队列就能起到削峰填谷的作用，防止 es 集群丢失数据。2、实现动态schema，业务可以自定义schema，方便日志检索和查询3、每一个业务有独立的索引2.1 elk+kafka发现问题部署后发现日志量很大，一天有几个亿，kafka中堆积了很多消息，log...

说明首先只是一个helm官方的bug，不要怀疑自己，确实是官方的bug。报错版本2.9.1必然有这个错误，2.13.0之后不知道有没有修复，不确定错误复现我们先helm install随后我们helm upgrade，因为种种原因upgrade失败了那么再次helm upgrade就会报以上错误错误原因helm的源码，没有加入事务机制，当我们第一次upgrade失败后，就helm...

背景最终结构原先的charts templates的目录结构templates-deployment-ingress-svc使用灰度后的charts templates的目录结构templates-deployment-group1-deployment-group2-ingress-svc结构说明使用原生的k8s来做灰度其实非常简单，利用的就是不同的deploy可...

istio控制流量的核心是poilt组件

报错内容error connecting to node 0 at kafka-0.kafka-headless.local:9092其实就是没有连接上kafka我是把svc作为nodeport暴露端口出来，去连接这个端口然后报错了。遇到这种情况，不要怀疑自己，一定是kafka的配置问题。kafka默认配置是不允许外部连接访问的，只允许localhost，部署的时候一定要修改配置两种解...

云平台目前大部分企业都使用云平台，一来不需要维护，二来节省成本，三来很多事情其实云平台已经做好了，没必要重复造轮子。企业常用云平台阿里云（支持海外）亚马逊（支持海外）微软云（支持海外）方法一般有两种：1.直接购买海外的主机，比如直接买一个美国的k8s，把服务部署上去，就解决了2.购买国内的主机，通过香港主机的路由转发实现海外访问，这样可以节省成本，因为中间件等就可以复用国内的，但...

github地址：https://github.com/elastic/helm-charts/所有的charts千万不要自己写，一定要上官网，上官网，上官网！拉下charts后会有几个问题：1.charts需要修改一些2.拉取海外的镜像可能不行，有墙3.pv未绑定的问题发布指令需要分别发布e\l\k，最后还需要发布kafka，而kafka会自带zk helm upgrade --...

背景elk版本:7.1.1nginx 版本随意简介在kibana中自带nginx日志插件，非常的好用，点开根据官方文档中的步骤一步一步来。我们需要在nginx服务器上，装一个filebeat，会自动把本地的日志推送到远程的elk服务器上日志的地址是可以配置的。换句话说，我们也可以换一个服务器。这个服务器专门拉nginx的日志，只要有日志文件就行，不需要nginx部署在上面fil...

经过一系列的线上踩坑，背锅等各种由于域名导致的线上事故之后，ingress nginx实在是不好用。企业还是必须要经过一个更好用的api网关来统一管理域名建议使用kong来替代ingress：https://github.com/Kong/kubernetes-ingress-controlleringress nginx优劣势：优势：简单，通过helm charts可以统一发布缺点：...

之前可使用kubectl top nodes观察发布时的cpu使用情况可以登陆node节点主机使用 top H -n 1 查看线程情况同时并发发布多个项目，导致cpu满了之后，挂掉导致该node节点的pod全部迁移至其他node节点，而其他node节点的cpu及线程最大限制都无法负载pod，导致node一个个宕机，最终整个集群宕机。经过查看发现是由于pid耗尽，致使docke...

我们目前使用的是kong作为一个总的api网关而今天出了一个问题kong的设置默认是不支持前端跨域的而前后端分离的项目大量的使用了跨域前端报错：response to preflight request doesn’t pass access control check:Redirct is not allowed如果是使用传统的nginx可以配置：参考文档：http://www.ng...

kong的个人理解kong就是对nginx进行再一次封装而做成的企业级api网关。kong的使用场景api网关有名的有zuul等，而且集成了springcloud。那么kong的使用场景在哪呢，个人认为要结合k8s，或者k8singress使用。而且kong目前可能没有想象的功能那么强大，不过还是比ingress好用多了对比ingress的好处：1.有可视化界面2.是api网关，可...

完整报错[2019-09-11T12:09:49,735][INFO ][org.apache.kafka.clients.FetchSessionHandler] [Consumer clientId=logstash2es-consumer-1, groupId=logstash2es-consumer] Node 4 was unable to process the fetch requ...