Bootstrap

Yarn的工作机制/作业提交流程

作业提交全过程详解
(1)作业提交
第1步:Client调用job.waitForCompletion方法,向整个集群提交MapReduce作业。
第2步: Client向RM申请一个作业id。
第3步: RM给Client返回该job资源的提交路径和作业id。
第4步: Client提交jar包,切片信息和配置文件到指定的资源提交路径。
第5步: Client提交完资源后,向RM申请运行MrAppMaster。
(2)作业初始化
第6步: 当RM收到Client的请求后,将该job添加到容量调度器中。
第7步: 某一个空闲的NM领取到该Job。
第8步: 该NM创建Container,并产生MRAppMaster。
第9步:下载Client提交的资源到本地。
(3)任务分配
第10步:MrAppMaster向RM申请运行多个MapTask任务资源。
第11步:RM将运行的MapTask任务分配给另外两个NodeManager,另两个NodeManager分别领取任务并创建容器。
(4)任务运行
第12步:MR向两个接收到任务的NodeManaer发送程序启动脚本,这两个NodeManager分别启动MapTask, MapTask对数据分区排序。
第13步:MrAppMaster等待所有的MapTask运行完毕后,向RM申请容器,运行ReduceTask。
第14步:ReduceTask向MapTask获取相应分区的数据。
第15步:程序运行完毕后,MR会向RM申请注销自己。
(5)进度和状态更新
YARN中的任务将其进度和状态(包括counter)返回给应用管理器,客户端每秒(通过mapreduce.client.progressmonitor.pollinterval设置)向应用程序器请求进度更新,展示给用户。
(6)作业完成
除了向应用程序器请求作业进度外,客户端每5分钟都会通过调用waitForCompletion()来检查作业是否完成。时间间隔可以通过mapreduce.client.completion.pollinterval来设置。作业完成之后,应用程序管理器和Container会清理工作状态。作业的信息会被作业历史服务器存储以备之后用户核查。

悦读

道可道,非常道;名可名,非常名。 无名,天地之始,有名,万物之母。 故常无欲,以观其妙,常有欲,以观其徼。 此两者,同出而异名,同谓之玄,玄之又玄,众妙之门。

;