国精产品一二三线999,国产av一区二区三区传媒,娇妻在交换中哭喊着高潮,大学生小嫩模无套内谢50p,色哟哟网站在线观看,a毛片免费全部播放自慰,国产播放隔着超薄丝袜进入,亚洲高清偷拍一区二区三区

新聞中心

首頁 > 新聞中心 > 行業新聞 >

淺議Hadoop實現機制

時間:2017-11-13 08:28:35   閱讀:

1.分布式并行計算

  MapReduce框架是由jobTracker和TaskTracker這兩類服務調度的。JobTracker是主控服務,只有一個,負責調度和管理TaskTracker,把Map任務和Reduce任務分配給空閑的TaskTmcker,讓這些任務并行運行,并負責監控任務的運行情況。TaskTracker是從服務,可以有多個,負責執行任務。如果某個TaskTracker出故障了,JobTracker會把其負責的任務分配給其他空閑的TaskTracker重新運行。

2.本地計算

  通常,MapReduce框架和分布式文件系統是運行在一組相同的節點上的,也就是說,計算節點和存儲節點通常在一起。這種配置允許框架在那些存儲數據的節點上高效地調度任務,這可以使整個集群的網絡帶寬被非常髙效地利用。

3.任務粒度

  對于小數據集,一般小于或等于HDFS中數據塊的大小,這使得一個小數據集位于一臺計算機上,有利于計算的數據本地性。一個小數據集啟動一個Map任務,M個Map任務可以在臺計算機上并行運行,用戶可以指定Reduce任務的數量。

4.Combine (連接)

  Combine將Map任務輸出的中間結果集中有相同key值的多個<key,value>組合成一個<key,list(value)>對。Combine在執行完Map函數后緊接著執行,很多情況下可以直接使用Reduce函數,Combine能減少中間結果的數量,從而減少數據傳輸中的網絡流量。

5.Partition (分區)

  Combine之后,把產生的中間結果按key的范圍劃分成及份(及是預先定義的Reduce任務的個數)。劃分時通常使用Hash函數,如hash(key)mod R,這樣可以保證某一范圍內的key,一定是由一個Reduce任務來處理,可以簡化Reduce的過程。

6.讀取中間結果

  Map任務的中間結果在做完Combine和Partition之后,以文件形式存于本地磁盤。中間結果文件的位置會通知主控JobTracker,JobTracker再通知Reduce任務到哪一個DataNode上去取中間結果。注意所有的Map任務產生中間結果均按其key用同一個Hash函數劃分成了R份,R個Reduce任務各自負責一段key區間。每個Reduce需要向多個Map任務節點取得落在其負責的key區間內的中間結果,然后執行Reduce函數,形成一個最終的結果文件。

7.任務管道

  在某些情況下Reduce任務的輸出結果并非所需要的最終結果,這時可以將這些輸出結果作為另一個計算任務的輸入開始另一個MaPReduce計算任務。

 

 

?

閩公網安備 35010002000114號

主站蜘蛛池模板: 日本尺码与亚洲尺码区别 | 三年片免费大全国语| 热久久免费频精品99热| 凌晨三点看的片www免费| 在线天堂www在线国语对白| 亚洲成av人在线观看网站| 宝贝小嫩嫩好紧好爽h视频| 久久99精品国产99久久6尤物| 草草影院ccyy| 日韩亚洲精品国产第二页| 荫蒂添的好舒服视频| 欧美videos另类极品| gogogo高清在线播放韩国| 亚洲国产v高清在线观看| 秋霞无码一区二区| 久久精品国产欧美日韩| 久久免费看少妇高潮v片特黄| 含羞草电影免费看韩国| 久久天天躁夜夜躁狠狠85麻豆| 色婷婷久久一区二区三区麻豆| gogogo免费视频观看 高清国语| 久久久无码一区二区三区| 丰满人妻一区二区三区无码av| 国产女人18毛片水真多1| 国产精品成熟老女人视频| 三年片在线观看大全中国| 狠狠噜天天噜日日噜av| 成年在线观看免费人视频| 99久久精品费精品国产一区二区| 国产精品无码无在线观看| 啦啦啦www在线观看视频播放 | а√天堂资源地址在线官网| 无码av天堂一区二区三区| 亚洲一区二区三区在线观看网站| 老年人性行交视频| 精品国产成人一区二区| av不卡在线永久免费观看| 精品无码国产自产野外拍在线 | 色综合色国产热无码一| gogogo高清在线观看| 少妇被粗大的猛烈进出96影院|