当前位置: 首页 > news >正文

上海手机网站建设报价成都设计院有哪些

上海手机网站建设报价,成都设计院有哪些,高端网站设计公司排行榜,海诚互联1. yarn-client Driver在任务提交的本地机器上运行,Driver启动后会和ResourceManager通讯,申请启动ApplicationMaster; 随后ResourceManager分配Container,在合适的NodeManager上启动ApplicationMaster,此时的ApplicationMaster的…

1. yarn-client

在这里插入图片描述

  1. Driver在任务提交的本地机器上运行,Driver启动后会和ResourceManager通讯,申请启动ApplicationMaster;

  2. 随后ResourceManager分配Container,在合适的NodeManager上启动ApplicationMaster,此时的ApplicationMaster的功能相当于一个ExecutorLaucher(加载器),只负责向ResourceManager申请Executor内存;

  3. ResourceManager接到ApplicationMaster的资源申请后会分配Container,然后ApplicationMaster在资源分配指定的NodeManager上启动Executor进程;

  4. Executor进程启动后向ResourceManager发送心跳,向Driver反向注册,Executor全部注册完成后,Driver开始执行main函数

  5. 之后执行到action算子时,触发一个job,并根据宽依赖开始划分Stage,每个stage生成对应的TaskSet,之后将Task分发到各个Executor上执行,执行完毕释放资源。

以运行词频统计WordCount为例,提交命令如下:

[xiaokang@hadoop01 ~]$ /opt/software/spark-3.0.1/bin/spark-submit\
--master yarn \ #运行yarn
--deploy-mode client \ #部署模式client
--driver-memory 512m \ #为driver分配的内存大小
--executor-memory 512m \ #每个executor的内存大小
--executor-cores 1 \ #每个executor 1核
--num-executors 2 \ #集群的executor个数
--queue default \
--class cn.itcast.spark.start.SparkSubmit \ 
hdfs://node01:8020/spark/apps/spark-day02_2.11-1.0.0.jar \
/datas/wordcount.data \
/datas/swcy-client

2. yarn-cluster

在这里插入图片描述

  1. 任务提交后会和ResourceManager通讯,申请启动ApplicationMaster;

  2. 随后ResourceManager分配Container,在合适的NodeManager上启动ApplicationMaster,此时的ApplicationMaster就是Driver;

  3. Driver启动后向ResourceManager申请Executor内存,ResourceManager接到ApplicationMaster的资源申请后会分配Container,然后在合适的NodeManager上启动Executor进程;

  4. Executor进程启动后会向ResourceManager发送心跳,向Driver反向注册;

  5. Executor全部注册完成后,Driver开始执行main函数,之后执行到Action算子时,触发一个job,并根据宽依赖开始划分stage,每个stage生成对应的taskSet,之后将task分发到各个Executor上执行。

以运行词频统计WordCount为例,提交命令如下:

[xiaokang@hadoop01 ~]$ /opt/software/spark-3.0.1/bin/spark-submit \
--master yarn \
--deploy-mode cluster \
--driver-momery 512m \
--executor-memory 512m \
--executor-cores 1 \
--num-executors 2 \
--queue default \
--class cn.itcast.spark.start.SparkSubmit \ 
hdfs://node01:8020/spark/apps/spark-day02_2.11-1.0.0.jar \
/datas/wordcount.data \ 
/datas/swcy-cluster

3. YARN-client与YARN-cluster的不同之处

  1. YARN-client模式,Driver运行在本地机器上;
    YARN-cluster模式,Driver运行在YARN集群的某个NodeManager节点上;

  2. YARN-client模式会导致本地机器负责Spark任务的调度,所以网卡流量会激增;
    YARN-cluster模式没有流量激增的问题;

  3. YARN-client的Driver运行在本地,通常来说本地机器和YARN集群不在同一个机房,所以说性能不会很好;
    YARN-cluster模式下,Driver和YARN集群运你在同一个机房内,性能上来说会好一点。

http://www.yayakq.cn/news/704412/

相关文章:

  • 网站开发维护岗位职责3d网站设计
  • 网站制作公司相关工作wordpress共享文件夹
  • 彩票网站和app建设厦门网站建设屈兴东
  • 淄博网站制作定制视觉wordpress域名访问不了
  • ps制作个性字网站专业专业的网站开发
  • 湖州网站设计qq推广赚钱一个2元
  • 手机免费创建网站的软件一个人在线观看视频播放免费
  • 漳州正规网站建设公司wordpress管理员登入
  • 免费创建app网站江苏建工
  • 滁州建设网站公司html制作学校网页
  • 如何建立团购网站建设专业网站哪家更专业
  • 十几万 建设网站外贸企业网站制作公司
  • 做公司网站的专业公司深圳html网站首页设计
  • 网站建设中服务器的搭建方式nas可以做网站下载服务器吗
  • 怎么进网站源码的后台微信网站开发
  • 西安城乡住房建设厅网站首页wordpress 左侧菜单
  • 手机能看禁止网站的浏览器中国住房和城乡建设厅网站
  • 理财公司网站建设方案小红书推广群
  • 玉环城乡建设规划局网站建设互联网站
  • 音乐版权购买网站招聘网站页面
  • 平顶山网站开发做电影数据的网站
  • 南昌企业制作网站中国互联网公司排名2022
  • 商城网站模板dede内蒙古呼和浩特市邮编
  • wordpress付费插件网站公司网站购买主机
  • 做网站公司是干什么的七牛 wordpress 视频处理
  • 网站建设排名公司哪家好大连建设工程有限公司
  • 建设网站好处局域网聊天工具有哪些
  • 网站页面设计与制作实践电子商务公司注册资金
  • 东莞做网站有哪些口碑最好的购物网站平台
  • 如何在微信平台做购买网站网站开发的实训周