Flink 消费 kafka 数据时，LAG 堆积严重？

问答 ⋅ LH ⋅ 于 2022-03-28 19:26:05 ⋅ 最后回复由 wtf2012 于 2023-09-26 17:32:36 ⋅ 2573 阅读

flink消费kafka latest模式。eventprocess基本就是来一条处理一条。给了12个solt。source并行度6（kafka topic六个分区）。处理逻辑给的36个并行度因为是往Tidb里面插入数据。导致最后LAG积压严重。

设了checkpoint exactly once 60s

愁死了

成为第一个点赞的人吧

回复数量: 2

青牛国内首批大数据从业者，就职于金山，担任大数据团队核心研发工程师
⋅ 2022-03-28 23:46:16

sink太慢了导致ck慢

wtf2012
⋅ 2023-09-26 17:32:36

Source 并行度保持和Kafka topic分区一致，不建议在业务逻辑处理中增加翻倍的并行度，会导致数据跨服务器传递导致延迟，另外在Sink端可以考虑优化Sink的表结构或者方式，不一定直接SInk到终端。

请注意单词拼写，以及中英文排版，参考此页
支持 Markdown 格式, **粗体**、~~删除线~~、`单行代码`, 更多语法请见这里 Markdown 语法
支持表情，可用Emoji的自动补全, 在输入的时候只需要 ":" 就可以自动提示了 :metal: :point_right: 表情列表 :star: :sparkles:
上传图片, 支持拖拽和剪切板黏贴上传, 格式限制 - jpg, png, gif，教程
发布框支持本地存储功能，会在内容变更时保存，「提交」按钮点击时清空

Ctrl+Enter