
kafka
XTY00
积少成多,比昨天更优秀。。。
展开
-
Kafka 及 PyKafka 的使用
1. Kafka 1. 简介 Kafka 是一种分布式的、分区的、多副本的基于发布/订阅的消息系统。它是通过 zookeeper 进行协调,常见可以用于 web/nginx 日志、访问日志、消息服务等。主要应用场景为:日志收集系统和消息系统。 Kafka 的主要设计目标如下: 1. 以时间复杂度为 O(1) 的方式提供持久化能力,即使对 TB 级别以上的数据...转载 2019-12-16 16:13:59 · 786 阅读 · 0 评论 -
python操作kafka
#coding=utf-8 from pykafka import KafkaClient import codecs import logging logging.basicConfig(level = logging.INFO) client = KafkaClient(hosts = "172.16.82.163:9091") #生产kafka数据,通过字符串形式 def produce...转载 2019-12-16 15:29:28 · 389 阅读 · 0 评论 -
Kafka消费者——从 Kafka读取数据
应用程序使用 KafkaConsumer向 Kafka 订阅主题,并从订阅的主题上接收消息 。 从 Kafka 读取数据不同于从其他悄息系统读取数据,它涉及一些独特的概念和想法。如果不先理解 这些概念,就难以理解如何使用消费者 API。所以我们接下来先解释这些重要的概念,然 后再举几个例子,横示如何使用消费者 API 实现不同的应用程序。 消费者和消费者群组 假设我们有一个应用程序需要从-个 ...转载 2019-12-13 20:29:17 · 557 阅读 · 0 评论