Azkaban 一款轻量级调度工具

分享 枫艾 ⋅ 于 2020-06-19 12:37:00 ⋅ 最后回复由 青牛 2020-06-19 15:14:56 ⋅ 197 阅读

Azkaban

调度工具是实际工作中非常重要的部分, 在大公司往往独自开发独有的调度系统;
平常工作可以使用开源的组件, 其中Azkaban就是这样一款轻量级的调度系统

1. 运用场景

大数据场景中调度的作用:以ETL为例
大数据场景中,较为常见的一个ETL流程:
RDBMS ===Sqoop===> Hadoop ==Sqoop==> RDBMS/NoSQL/…

完成上述场景需要经历3个过程:

数据抽取 01:00 3h ==> 凌晨1点开始数据抽取,需要3个小时
数据处理 04:00 4h ==> 凌晨4点开始数据处理,需要3个小时
数据入库 08:00
一个完整的ETL过程,通常情况下是有多个作业一起协作来完成的,每个作业之间都是有相互间的依赖关系的
那么如何将这些依赖关系设置好呢?这就需要使用调度框架来执行。
假设现在不存在Azkakan/Oozie这样的调度框架,如何实现???
通常情况下会使用:crontab + shell

优点

简单易用;把该写的东西写到shell脚本里,定时开始执行就行了;
1点跑数据抽取作业;4点跑数据处理作业;8点跑数据入库的作业

缺点

1.如果我们任务多的话,crontab里面的配置会多到疯掉
2.不便维护
3.作业的监控不好做
4.无法通过WebUI的方式来进行配置,所有的东西都得通过shell的方式来进行配置
5.HA如何进行保证
 在一台机器上配了crontab + shell,如果哪一天机器挂了,这种方式是无法保证HA的
6.存在DAG/Dependency这种关系
 如果依赖关系很多的话,数据入库这步肯定是需要等到数据处理完成之后才能入库;
 同理,数据处理也是需要等数据抽取完成之后才可以进行的;举个例子:
 场景一:
   假设我们的数据处理作业是在凌晨4点开始跑的
   恰巧那天碰到我们生产环境上集群的负载比较高,压力比较大
   3个小时数据没有抽取完,这就意味着4点开始跑数据处理的作业等于是白跑了的,跑出来的结果根本是不对的
   面对这种场景使用crontab + shell是很难解决的,除非进行重跑
   但是一涉及到重跑,对于代码各方面就要进行大量的调整
 场景二:
   凌晨1点开始数据抽取,那天恰巧压力不大,2个小时抽取完了
   还要等1个小时到凌晨四点再来数据处理
   早跑完,造成资源浪费

从上述的问题中引出:
调度框架在我们数据平台中的重要性

2. 大数据中常见的调度框架

Linux中的crontab
Quartz(Java中的)
开源的框架:
Azkaban/Oozie(结合HUE进行使用)/Zeus(阿里的,停止维护很久了,不建议使用)
大数据调度框架对比的网站:http://ww去w.thebigdata.cn/Hadoop/15755.htm
内部研发的调度框架(上规模的公司中,调度框架都是自己研发的)

3. Azkaban概述

LinkedIn开源的
官网:https://azkaban.github.io/
官网的介绍:
Azkaban is a batch workflow job scheduler created at LinkedIn to run Hadoop jobs.
Azkaban resolves the ordering through job dependencies and provides an easy to use web user interface to maintain and track your workflows.
重点的一句话:
Azkaban resolves the ordering through job dependencies
Azkaban解决了job依赖关系顺序的问题

特性

1.    Compatible with any version of Hadoop
能够和任意版本的Hadoop做兼容(在编译的时候,只需要指定Hadoop的版本就可以)

2.    Easy to use web UI
非常易用的web ui

3.    Simple web and http workflow uploads
非常简单的web和http workflow的上传
只需要预先将workflow定义好以后,就可以通过浏览器把我们需要的job的配置文件传到Azkaban的web server上面去就ok了
Azkaban中的配置都是使用key-value的形式的

4.    Project workspaces
工作空间的管理
不同的项目可以归属于不同的空间,而且不同的空间又可以设置不同的权限
多个项目之间是不会产生任何的影响与干扰

5.    Scheduling of workflows
调度workflows(可以手工运行,也可以让它定时去处理)

6.    Modular and pluginable
模块化和可插拔
举例:
 在实际生产上,spark的作业有很多,有ETL的作业、有流处理的作业
 它们都是以插件的方式进行定义的
 这样做的好处是:可以很好的与Azkaban做整合

7.    Authentication and Authorization
认证和授权

8.    Tracking of user actions
能够跟踪用户的行为(比如:谁在什么时候提交了什么作业,这个作业什么时候开始的,作业运行完的时间是什么时候,
作业的结果又是什么,作业的运行是成功还是失败)

9.    Email alerts on failure and successes
支持Email的告警(你的作业成功还是失败)
官方目前支持Email(message告警可以对接进来)

10.    SLA alerting and auto killing
SLA的告警
假设凌晨1点开始数据抽取,计划是3小时抽取完,如果抽取耗时3小时1分钟,那么你的SLA就已经超了
这个地方也是需要告警的

11.    Retrying of failed jobs
对于失败作业的重试机制
注意:少了HA

4. Azkaban架构

文档地址:http://azkaban.github.io/azkaban/docs/latest/
有3个重要的组件构成:
1.    Relational Database (MySQL)
关系型数据库,用于存储元数据(可以配成MySQL,默认是h2)
2.    AzkabanWebServer
既然提供了web ui,那么必然有WebServer
3.    AzkabanExecutorServer
如何解决该架构中的HA问题?如何入手?
这3个组件都要做HA(AzkabanWebServer这个的HA,其实不是那么的重要)
如果AzkabanWebServer挂掉之后,实质上是不影响我们的使用的,只是我们不能通过web界面去查看或者是监控而已
3.X的版本中AzkabanExecutorServer的HA已经是支持了

Relational Database (MySQL)
Azkaban使用MySQL存储state的内容;
AzkabanWebServer和AzkabanExecutorServer 都是能够访问MySQL的

How does AzkabanWebServer use the DB?
web server使用DB的原因如下:
1.    Project Management
项目,项目的权限以及上传的文件
2.    Executing Flow State
跟踪执行流,执行程序运行它们
3.    Previous Flow/Jobs
搜索之前的作业和流程执行,以及访问他们的日志文件
4.    Scheduler
保持预定的工作状态
5.    SLA
保持所有sla规则

How does the AzkabanExecutorServer use the DB?
executor server使用DB的原因如下:
1.    Access the project
从数据库中检索项目文件
2.    Executing Flows/Jobs
检索和更新 流和正在执行的数据
3.    Logs
将输出日志存储到作业中并流入到db中
4.    Interflow dependency
如果流在不同的执行器上运行,则它将从DB中获取状态

AzkabanWebServer
AzkabanWebServer是所有Azkaban的主要管理者。
它处理项目管理、身份验证、调度器和执行监视。它还作为web用户界面。

AzkabanExecutorServer
以前版本的Azkaban在同一个服务器上拥有AzkabanWebServer和AzkabanExecutorServer功能。
此后,Executor有了自己的服务器(言下之意即AzkabanWebServer和AzkabanExecutorServer不在同一server上了,分开了)

Azkaban的运行模式

在3.x版本里,提供了3种运行模式
1.    the stand alone “solo-server” mode standalone模式
2.    the heavier weight two server mode 两个server的模式
3.    distributed multiple-executor mode 分布式(多个executor的模式)
solo server mode
采用的DB是H2,而web server和executor server都在同一个进程中运行。
应用于小规模的用例。
two server mode
应用于生产环境,采用的DB是MySQL,master-slave模式。
web server和executor server在不同的进程中运行,因此升级和维护不会影响用户。
multiple executor mode
应用于生产环境(分布式),采用的DB是MySQL,master-slave模式。
web server和executor server在不同的主机上运行,因此升级和维护不应该影响用户。
该模式为Azkaban带来了健壮和可伸缩的性能。

5. Azkaban “solo-server” mode部署 & 简单使用

官网:http://azkaban.github.io/azkaban/docs/latest/#solo-setup
这种模式的三大优点:
Easy to install
Easy to start up
Full featured

下载Azkaban的源码

直接clone下来

git clone https://github.com/azkaban/azkaban.git

下载release版本(建议使用这种方式下载源码,而不是使用1这种方式)

wget https://github.com/azkaban/azkaban/archive/3.38.0.tar.gz

解压

cd /opt/software
tar -zxvf azkaban-3.38.0.tar.gz -C /opt/source/
cd azkaban-3.38.0/

目录结构:
azkaban-common         常用的工具类(基础架构)
azkaban-db            与数据库相关的
azkaban-exec-server        执行的server
azkaban-hadoop-security-plugin   hadoop安全的插件(不用去管它)
azkaban-solo-server        我们所要部署的模式
azkaban-spi            存储一些接口相关的东西(异常处理这些)
azkaban-web-server        web-server(ui上的东西)

编译

3.x是需要编译,官方没有提供直接的安装包

cd $AZKABAN_SOURCE_HOME
./gradlew 去掉build installDist

默认会去网络上下载gradle-4.1-all.zip(这个包有差不多100MB),我不建议这么干,因为下载速度非常慢
建议大家通过修改配置的方式完成gradle-4.1-all.zip的本地化
做法:
先下载gradle-4.1-all.zip到/opt/software下

wget https://services.gradle.org/distributions/gradle-4.1-all.zip

修改对应配置文件

cp /opt/software/gradle-3.5-all.zip /opt/source/azkaban-3.38.0/gradle/wrapper
cd /opt/source/azkaban-3.38.0/gradle/wrapper
vi gradle-wrapper.properties
distributionUrl=gradle-3.5-all.zip
#distributionUrl=https\://services.gradle.org/distributions/gradle-3.5-all.zip

开始编译:

./gradlew 去掉build installDist -x test

编译成功见图:
file

编译中的坑

加上 -test 跳过测试,不然会发生编译报错:
错误见图:
file

此处有坑,大坑,好大的坑: jdk7/git/nodejs/npm/…
强依赖于jdk1.8
安装npm(不安装会报错):

curl --silent --location https://rpm.nodesource.com/setup_5.x | bash -
yum install -y nodejs

部署

  1. 启动
    (在启动的时候,有个小坑,值得注意)
    cd /opt/source/azkaban-3.38.0/azkaban-solo-server/build/distributions
    tar -zxvf azkaban-solo-server-0.1.0-SNAPSHOT.tar.gz -C /opt/app/
    cd /opt/app/azkaban-solo-server-0.1.0-SNAPSHOT/bin
    ./azkaban-solo-start.sh

    报错:

    Exception in thread "main" java.io.IOException: Cannot find 'database.properties' file in /opt/app/azkaban-solo-server-0.1.0-SNAPSHOT/bin/sql/database.properties
    at azkaban.database.AzkabanDatabaseSetup.loadDBProps(AzkabanDatabaseSetup.java:174)
    at azkaban.database.AzkabanDatabaseSetup.loadTableInfo(AzkabanDatabaseSetup.java:98)
    at azkaban.database.AzkabanDatabaseUpdater.runDatabaseUpdater(AzkabanDatabaseUpdater.java:82)
    at azkaban.soloserver.AzkabanSingleServer.main(AzkabanSingleServer.java:71)

    解决方案:

    cd ../
    bin/azkaban-solo-start.sh
    成功启动
    打印出日志:
    2018/02/28 09:08:46.308 +0800 INFO [AzkabanWebServer] [Azkaban] Azkaban Web Server started...
    2018/02/28 09:08:46.772 +0800 INFO [AzkabanWebServer] [Azkaban] Azkaban Exec Server started...
  2. 检查是否成功启动
    http://192.168.26.131:8081/
    控制台输入jps,显示进程:AzkabanSingleServer
    注:在solo-server模式下,会将web-server和exec-server放在一起,名字叫singleserver

注意事项:

查看 web 和 exec 日志;

整体的流程是
exec启动后, 去指定的mysql进行注册
azkaban库里面
executor表,
当确定 exec 启动之后, 并在表里注册的时候,active为0, 需要将其改变为1;
然后 启动 web, 因为没有 exec web起不起来
随时关注 web端的日志; 

基本都可以调控ok;

版权声明:原创作品,允许转载,转载时务必以超链接的形式表明出处和作者信息。否则将追究法律责任。来自海牛部落-枫艾,http://hainiubl.com/topics/75143
本帖已被设为精华帖!
本帖由 青牛 于 2周前 加精
点赞
成为第一个点赞的人吧 :bowtie:
回复数量: 3
  • 青牛 国内首批大数据从业者,就职于金山,担任大数据团队核心研发工程师
    2020-06-19 12:41:59

    打赏码可以上传一下

  • 枫艾 开开心心每一天~~~!!!
    2020-06-19 13:26:57

    屏蔽字符, 用 "去掉" 来进行过度

  • 青牛 国内首批大数据从业者,就职于金山,担任大数据团队核心研发工程师
    2020-06-19 15:14:56

    @枫艾 文章不错,打赏10元。对你放开权限了,以后不用“去掉“了。

暂无评论~~
  • 请注意单词拼写,以及中英文排版,参考此页
  • 支持 Markdown 格式, **粗体**、~~删除线~~、`单行代码`, 更多语法请见这里 Markdown 语法
  • 支持表情,可用Emoji的自动补全, 在输入的时候只需要 ":" 就可以自动提示了 :metal: :point_right: 表情列表 :star: :sparkles:
  • 上传图片, 支持拖拽和剪切板黏贴上传, 格式限制 - jpg, png, gif,教程
  • 发布框支持本地存储功能,会在内容变更时保存,「提交」按钮点击时清空
Ctrl+Enter