Flink 消费 kafka 数据时,LAG 堆积严重?

问答 LH ⋅ 于 2022-03-28 19:26:05 ⋅ 最后回复由 wtf2012 2023-09-26 17:32:36 ⋅ 3377 阅读

flink消费kafka latest模式。eventprocess基本就是来一条处理一条。给了12个solt。source并行度6(kafka topic六个分区)。处理逻辑给的36个并行度因为是往Tidb里面插入数据。 导致最后LAG积压严重。

设了checkpoint exactly once 60s

愁死了

成为第一个点赞的人吧 :bowtie:
回复数量: 2
  • 青牛 国内首批大数据从业者,就职于金山,担任大数据团队核心研发工程师
    2022-03-28 23:46:16

    sink太慢了导致ck慢

  • wtf2012
    2023-09-26 17:32:36

    Source 并行度保持和Kafka topic分区一致,不建议在业务逻辑处理中增加翻倍的并行度,会导致数据跨服务器传递导致延迟,另外在Sink端可以考虑优化Sink的表结构或者方式,不一定直接SInk到终端。

暂无评论~~
  • 请注意单词拼写,以及中英文排版,参考此页
  • 支持 Markdown 格式, **粗体**、~~删除线~~、`单行代码`, 更多语法请见这里 Markdown 语法
  • 支持表情,可用Emoji的自动补全, 在输入的时候只需要 ":" 就可以自动提示了 :metal: :point_right: 表情列表 :star: :sparkles:
  • 上传图片, 支持拖拽和剪切板黏贴上传, 格式限制 - jpg, png, gif,教程
  • 发布框支持本地存储功能,会在内容变更时保存,「提交」按钮点击时清空
Ctrl+Enter