RMApp是ResourceManager中用于维护一个Application生命周期的数据结构,它的实现是RMAppImpl,该类维护了一个Application状态机,记录了一个Application可能存在的各个状态以及导致状态间转换的事件,当某个事件发生时,RMAppImpl会根据实际情况进行Application状态转移,同时触发一个行为。

需要说明的是,在YARN中,每个application用数据结构RMApp表示,每个application可能会尝试运行多次,则每次运行尝试的整个运行过程用数据结构RMAppAttempt表示,如果一次运行尝试运行失败,则RMApp会创建另外一个运行尝试,直到某次运行尝试运行成功或者达到运行尝试运行上限。

如图所示,在RM看来,每个Application有8种基本状态(RMAppState)和10种导致这8种状态之间发生转移的事件(RMAppEventType),RMAppImpl的作用是等待接收其他对象发出的RMAppEventType类型的事件,然后根据当前状态和事件类型,将当前状态转移到另外一种状态,同时触发另外一种行为(实际上执行一个函数,该函数可能会再次发出一种其他类型的事件)。下面具体进行介绍:

基本状态

  • NEW

状态机初始状态,每个Application对应一个状态机,而每个状态机的初始状态为NEW。

  • SUBMITTED

客户端通过RPC函数ClientRMProtocol.submitApplication向RM提交一个Application,通过合法性验证后,RM会将Application状态置为SUBMITTED。

  • ACCEPTED

RM创建一个ApplicationMaster Attempt,此时Application状态被置为ACCEPTED。

  • RUNNING

RM创建的一个ApplicationMaster Attempt在某个节点上开始运行,此时Application状态被置为RUNNING。

  • FAILED

Application的ApplictionMaster运行失败,导致Application的状态被置为FAILED。

  • KILLED

Application收到KILL事件,将被置为KILLED。

  • FINISHING

Application Master通过RPC函数AMRMProtocol.finishApplicationMaster()通知RM,自己运行结束,此时Application处于FINISHING状态。

  • FINISHED

NodeManager通过心跳汇报ApplicationMaster所在的Container运行结束,此时Application被置为FINISHED状态。

基本事件

  • STARTED

NodeManager启动后,会通过RPC函数ResourceTracker.registerNodeManager()向RM注册,此时会触发STARTED事件。

  • KILL

客户端调用RPC函数ClientRMProtocol.forceKillApplication()杀死Application,此时会触发一个KILL事件。

  • APP_REJECTED

客户端通过RPC函数ClientRMProtocol.submitApplication向RM提交一个Application时,抛出IOException异常,此时会触发一个APP_REJECTED事件。

  • APP_ACCEPTED

客户端通过RPC函数ClientRMProtocol.submitApplication向RM成功提交一个Application,此时会触发一个APP_ACCEPTED事件。

  • ATTEMPT_REGISTERED

ApplicationMaster通过RPC函数AMRMProtocol.registerApplicationMaster()向RM注册时,触发一个ATTEMPT_REGISTERED事件。

  • ATTEMPT_FINISHING

ApplicationMaster通过RPC函数AMRMProtocol.finishApplicationMaster ()向RM汇报自己运行完成,此时会触发一个ATTEMPT_FINISHING事件。

  • ATTEMPT_FINISHED

NodeManager通过心跳汇报ApplicationMaster所在的Container运行结束,此时Application被置为FINISHED状态。

  • NODE_UPDATE

NodeManager每次汇报心跳信息会触发一个NODE_UPDATE事件。

  • ATTEMPT_FAILED

ApplicationMaster运行失败时,会触发一个ATTEMPT_FAILED事件。

  • ATTEMPT_KILLED

ApplicationMaster被杀死时,会触发一个ATTEMPT_KILLED事件。

下图描述了各个事件的来源:

原创文章,转载请注明: 转载自董的博客

本文链接地址: YARN/MRv2 Resource Manager深入剖析—RMApp状态机分析

微信公众号:hadoop-123,专注于大数据技术分享,欢迎加入!

说点什么

avatar
  Subscribe  
提醒