ZFYCH_Love

Simply but Powerful

  博客园 :: 首页 :: 博问 :: 闪存 :: 新随笔 :: 联系 :: 订阅 订阅 :: 管理 ::

2016年6月16日

摘要: 上一篇介绍了一个job的提交过程。期间多次提到通信协议。那么协议是什么? 协议其实就是通信的双方所遵守的一套规范,这套规范规定了通信时传输的数据的固定的格式。 4.1 RPC协议:在hadoop中,我们采用的是RPC协议。 该协议主要包含四个部分: 序列化层:协议中的参数采用Protocol Buf 阅读全文
posted @ 2016-06-16 16:36 xiaoyang_ 阅读(653) 评论(0) 推荐(0) 编辑

摘要: 在MRv1中,各个模块间驱动运行的方式是函数调用的方式。这是同步的过程,上一模块调用下一模块函数后,等待其执行。效率不高。 在MRv2中做了改进,yarn基于事件驱动的并发模型。在详细介绍前,先看下图: 处理请求会作为事件进入系统,有中央异步调度器【AsyncDispatcher】传递给对应的事件调 阅读全文
posted @ 2016-06-16 16:36 xiaoyang_ 阅读(463) 评论(0) 推荐(0) 编辑