flink on yarn 使用 yarn-cluster 提交多个任务, 任务间没有在单独的 AM 中运行, 如何解决?

问答 许诺 ⋅ 于 2020-11-30 14:37:52 ⋅ 最后回复由 许诺 2020-12-01 09:20:27 ⋅ 401 阅读

file
如图,
使用指令 flink run -m yarn-cluster ........提交多个任务到yarn集群上 集群所给资源充足.
第一个任务为流任务, 读取kafka数据并输出到数据库, 先提交第一个任务, 等到任务进入running状态再提交下一个任务
第二个任务为批处理, 读文本处理后输出到kafka, 提交第二个任务使用的指令不变, 仍然是flink run -m yarn-cluster...
理论情况下, 应该是另起一个任务, 与第一个任务互不影响, 然而在yarn创建了新的application后(图中的007) , 任务仍然进入了006application中执行. 导致批处理结束后, 自动关闭AM. 使第一个流任务无法执行下去
而007这个AM仍然在running状态.(最终手动kill掉)
在网上搜索不到类似场景, 希望各位老师们能够帮我解决这个问题.

成为第一个点赞的人吧 :bowtie:
回复数量: 4
  • 许诺
    2020-11-30 14:48:00
  • 青牛 国内首批大数据从业者,就职于金山,担任大数据团队核心研发工程师
    2020-11-30 19:59:38

    @许诺 把flink-conf.yaml 里面的ha配置去掉

  • 许诺
    2020-11-30 20:00:24

    @青牛 谢谢我何老师,明天去试试

  • 许诺
    2020-12-01 09:20:27

    问题已经解决! 非常感谢何老师的指点!

暂无评论~~
  • 请注意单词拼写,以及中英文排版,参考此页
  • 支持 Markdown 格式, **粗体**、~~删除线~~、`单行代码`, 更多语法请见这里 Markdown 语法
  • 支持表情,可用Emoji的自动补全, 在输入的时候只需要 ":" 就可以自动提示了 :metal: :point_right: 表情列表 :star: :sparkles:
  • 上传图片, 支持拖拽和剪切板黏贴上传, 格式限制 - jpg, png, gif,教程
  • 发布框支持本地存储功能,会在内容变更时保存,「提交」按钮点击时清空
Ctrl+Enter