av激情亚洲男人的天堂国语,日韩欧美精品一中文字幕,无码av一区二区三区无码,国产又色又爽又刺激的a片,国产又色又爽又刺激的a片

Hadoop源碼分析之心跳機(jī)制

一.心跳機(jī)制

1. hadoop集群是master/slave模式,master包括Namenode和Jobtracker,slave包括Datanode和Tasktracker。

2. master啟動(dòng)的時(shí)候,會(huì)開一個(gè)ipc server在那里,等待slave心跳。

3. slave啟動(dòng)時(shí),會(huì)連接master,并每隔3秒鐘主動(dòng)向master發(fā)送一個(gè)“心跳”,這個(gè)時(shí)間可 以通過”heartbeat.recheck.interval”屬性來設(shè)置。將自己的狀態(tài)信息告訴master,然后master也是通過這個(gè)心跳的返回值,向slave節(jié)點(diǎn)傳達(dá)指令。

4. 需要指出的是:namenode與datanode之間的通信,jobtracker與tasktracker之間的通信,都是通過“心跳”完成的。

二.Datanode、Namenode心跳源碼分析

既然“心跳”是Datanode主動(dòng)給Namenode發(fā)送的。那Datanode是怎么樣發(fā)送的呢?下面貼出Datanode.class中的關(guān)鍵代碼:

代碼一:

 
 
 
  1. /**  
  2.    * 循環(huán)調(diào)用“發(fā)送心跳”方法,直到shutdown  
  3.    * 調(diào)用遠(yuǎn)程N(yùn)amenode的方法  
  4.    */ 
  5.   public void offerService() throws Exception {  
  6. ???  
  7.     while (shouldRun) {  
  8.       try {  
  9.         long startTime = now();  
  10.          // heartBeatInterval是在啟動(dòng)Datanode時(shí)根據(jù)配置文件設(shè)置的,是心跳間隔時(shí)間  
  11.         if (startTime - lastHeartbeat > heartBeatInterval) {  
  12.           lastHeartbeat = startTime;  
  13. //Datanode發(fā)送心跳  
  14.           DatanodeCommand[] cmds = namenode.sendHeartbeat(dnRegistration,  
  15.                                                        data.getCapacity(),  
  16.                                                        data.getDfsUsed(),  
  17.                                                        data.getRemaining(),  
  18.                                                        xmitsInProgress.get(),  
  19.                                                        getXceiverCount());  
  20.           myMetrics.addHeartBeat(now() - startTime);  
  21.            
  22.           if (!processCommand(cmds))  
  23.             continue;  
  24.         }  
  25.          
  26.       ???  
  27.       }  
  28.     } // while (shouldRun)  
  29.   } // offerService 

需要注意的是:發(fā)送心跳的對(duì)象并不是datanode,而是一個(gè)名為namenode的對(duì)象,難道在datanode端就直接有個(gè)namenode的引用嗎?其實(shí)不然,我們來看看這個(gè)namenode吧:

代碼二:

 
 
 
  1. public DatanodeProtocol namenode = null; 

namenode其實(shí)是一個(gè)DatanodeProtocol的引用,在對(duì)hadoop RPC機(jī)制分析的文章中我提到過,這是一個(gè)Datanode和Namenode通信的協(xié)議,其中有許多未實(shí)現(xiàn)的接口方法,sendHeartbeat()就是其中的一個(gè)。下面看看這個(gè)namenode對(duì)象是怎么被實(shí)例化的吧:

代碼三:

 
 
 
  1. this.namenode = (DatanodeProtocol)   
  2.     RPC.waitForProxy(DatanodeProtocol.class,  
  3.                      DatanodeProtocol.versionID,  
  4.                      nameNodeAddr,   
  5.                      conf); 

其實(shí)這個(gè)namenode并不是Namenode的一個(gè)對(duì)象,而只是一個(gè)Datanode端對(duì)Namenode的代理對(duì)象,正是這個(gè)代理完成了“心跳”。代理的底層實(shí)現(xiàn)就是RPC機(jī)制了。

三.Tasktracker、Jobtracker心跳源碼分析

同樣我們從Tasktracker入手,下面貼出Tasktracker.class的關(guān)鍵代碼:

代碼四:

 
 
 
  1. 代碼一:  
  2. State offerService() throws Exception {  
  3.     long lastHeartbeat = System.currentTimeMillis();  
  4.     while (running && !shuttingDown) {  
  5.      ???  
  6.           
  7.         // 發(fā)送心跳,調(diào)用代碼二  
  8.         HeartbeatResponse heartbeatResponse = transmitHeartBeat(now);  
  9.  
  10.       ???  
  11.     return State.NORMAL;  
  12.   }  
  13.  
  14. 代碼二:  
  15. HeartbeatResponse transmitHeartBeat(long now) throws IOException {  
  16.    ???  
  17.     HeartbeatResponse heartbeatResponse = jobClient.heartbeat(status,   
  18.                                                               justStarted,  
  19.                                                               justInited,  
  20.                                                               askForNewTask,   
  21.                                                          heartbeatResponseId);                                
  22. ???  
  23.     return heartbeatResponse;  
  24.   } 

其實(shí)我覺得分析到這里大家就可以自己分析了,jobClient也是一個(gè)協(xié)議:

代碼五:

 
 
 
  1. InterTrackerProtocol jobClient; 

該協(xié)議用于定義Tasktracker和Jobtracker的通信。同樣,它也是一個(gè)代理對(duì)象:

代碼六:

 
 
 
  1. this.jobClient = (InterTrackerProtocol)   
  2.     UserGroupInformation.getLoginUser().doAs(  
  3.         new PrivilegedExceptionAction() {  
  4.       public Object run() throws IOException {  
  5.         return RPC.waitForProxy(InterTrackerProtocol.class,  
  6.             InterTrackerProtocol.versionID,  
  7.             jobTrackAddr, fConf);  
  8.       }  
  9.     }); 
  10. 終于,hadoop底層通信整個(gè)系列的源碼分析全部完成了。我可以好好地復(fù)習(xí)學(xué)校的功課了。呵呵。

    原文鏈接:http://www.blogjava.net/jlins-you/archive/2012/05/31/379603.html


    當(dāng)前題目:Hadoop源碼分析之心跳機(jī)制
    網(wǎng)站鏈接:http://uogjgqi.cn/article/cojjsss.html
    掃二維碼與項(xiàng)目經(jīng)理溝通

    我們?cè)谖⑿派?4小時(shí)期待你的聲音

    解答本文疑問/技術(shù)咨詢/運(yùn)營(yíng)咨詢/技術(shù)建議/互聯(lián)網(wǎng)交流