nginx问题
问题:今天在生成中出现nginx通过代理消费kafka集群,生成数据正常,并且消费数据数据前置机可以消费,而内网机出现有时消费到数据有时消费不到数据。
nginx配置如下:
消费出现有是有能消费,而有时候确消费不到
原因:
上报正常是因为,生产数据指定到partition上,而因为kafka集群的数据时互通的。
而在 消费数据的时候nginx代理会随机指定到某一台服务器上,特定的partition,而如果这台服务器上没有对应的topic的partition,kafka就会报出Received unknown topic or partition error in ListOffset 错误
解决方案:
增加三台nginx代理服务器或者,在nginx增加三个Listen,每一个监听一个服务器