Giraph源码分析(四)—— Master 如何检查Worker启动成功


说明Giraph如何借助ZooKeeper来实现Master与Workers间的同步(不太确定)。在单机上(机器名:giraphx)启动了2个workers。Giraph遵从单Master多Workers结构,BSPServiceMaster使用MasterThread线程来进行全局的同步。每个Worker启动成功后,会向Master汇报自身的健康状况,那么Master是如何检测Workers是否都成功启动了?Master在ZooKeeper上创两个目录,_workerHealthyDir和 _workerUnhealthyDir,分别用来记录Healthy Workers和UnHealthy Workers。主要在BspServiceMaster类中的getAllWorkerInfos()方法来完成,其调用关系如下,注意下getAllWorkerInfos()到MasterThread.run()方法调用关系,比较难找。cdn.xitu.io/2019/7/26/16c2c19b1f13cc4f?w=640&h=147&am 香港云主机p;f=png&s=108416″>创建的两个目录如下:每个Worker在setup()中,调用registerHealth()方法来注册自身的状态。若自身是Healthy的,则在_workerHealthyDir目录下添加子节点 /wokerInfo.getHostNameId(),否则在workerUnhealthyDir目录下添加。wokerInfo.getHostNameId()为:Hostname+“”+TaskId。 Task1和Task2 (Task 0是master) 创建的子节点如下:Master 在checkWorkers()方法中,在While死循环中(实际有超时限制),通过调用getAllWorkerInfos()方法来获取_workerHealthyDir目录下的子节点,然后比较子节点数目是否达到maxWorkers(启动job时定义的,-w参数)。若小于maxWorkers,则继续调用getAllWorkerInfos()方法进行下一轮检测;若等于maxWorker,退出While循环,然后返回healthyWorkersInfoList:[Worker(hostname=giraphx, MRtaskID=1, port=30001), Worker(hostname=giraphx, MRtaskID=2, port=30002)] 。问题:由于在分布式环境中,每个Worker和Maste都是并行运行,彼此不知道对方的运行情况。上述第3步骤中,若还有子节点还没有创建,就一直在while死循环中调用来检测getAllWorkerInfos()方法检测,效率比较低下,当然也比较笨!Giraph借用ZooKeeper来高效的进行检测。设计理念如下:若某个task创建了子节点后,就会触发Watcher事件。若子节点数目小于maxWorkers,就调用 workerHealthRegistrationChanged的await()方法释放当前线程的锁,陷入等待状态。不会进行无用的检测。说明:workerHealthRegistrationChanged为PredicateLock类型(implements BspEvent接口),PredicateLock里面使用可重入锁 ReentrantLock和Condition进行线程的控制。当某个task创建了子节点后,触发Watcher事件。调用BspService中的public final void Process(WatchedEvent event)事件,该方法根据事件的路径来激活相应的BspEvent事件。此处对应的是:实验运行如下:这样就会激活master线程,开始下一轮检测。子节点数目等于maxWorkers时,就停止。总结:每创建一个子节点时,才会进行一次检测,效率较高!

相关推荐: JavaScript怎么使用button按钮实现submit提交

今天小编给大家分享一下JavaScript怎么使用button按钮实现submit提交的相关知识点,内容详细,逻辑清晰,相信大部分人都还太了解这方面的知识,所以分享这篇文章给大家参考一下,希望大家阅读完这篇文章后有所收获,下面我们一起来了解一下吧。submit…

免责声明:本站发布的图片视频文字,以转载和分享为主,文章观点不代表本站立场,本站不承担相关法律责任;如果涉及侵权请联系邮箱:360163164@qq.com举报,并提供相关证据,经查实将立刻删除涉嫌侵权内容。

Like (0)
Donate 微信扫一扫 微信扫一扫
Previous 07/24 19:12
Next 07/24 19:12

相关推荐