flink kafka metadata timestamp-type 中NoTimestampType应用场景和代码实例说明

Kafka与Flink时间戳处理详解

原创已于 2023-02-13 22:57:51 修改 · 473 阅读

0 ·

CC 4.0 BY-SA版权

文章标签：

#kafka #flink #分布式

于 2023-02-13 22:48:27 首次发布

大数据同时被 2 个专栏收录

50 篇文章

订阅专栏

流数据处理#大数据

8 篇文章

订阅专栏

文章介绍了NoTimestampType在Kafka中的应用，允许用户禁用自动时间戳提取，以便依赖记录值中的时间戳字段。FlinkKafkaMetadataTimestamp-Type提供了CreateTime和LogAppendTime等选项来指定消费时间戳。示例展示了在Flink中配置从Kafka源读取数据时如何选择时间戳类型。

1.NoTimestampType应用场景
NoTimestampType允许禁用Kafka记录的自动时间戳提取。当用户希望依赖于记录值中嵌入字段的时间戳时，这通常很有用。例如，如果记录是JSON对象，则可以配置JSON反序列化器以提取特定字段作为时间戳。该字段随后可用于Flink中的事件时操作。在这种情况下，应该配置NoTimestampType以禁用自动时间戳提取。

2.flink kafka metadata timestamp-type 作用

Flink Kafka Metadata Timestamp-Type用于指定消费者在消费Kafka消息时使用的时间戳字段。它接受以下三个参数： 1. CreateTime：Kafka消息的创建时间。 2. LogAppendTime：Kafka消息写入日志的时间。 3. NoTimestampType：允许禁用Kafka记录的自动时间戳提取。

3.举例： env.getStreamTableEnvironment().connect( new Kafka() .version(“0.11”) .topic(“topic-name”) .property(“group.id”, “consumer-group-id”) .startFromEarliest() .timestampType(“CreateTime”)) .withFormat(…) .withSchema(…) .createTemporaryTable(“kafkaSource”);