博客
关于我
2.3 Spark运行架构与原理
阅读量:797 次
发布时间:2023-04-04

本文共 296 字,大约阅读时间需要 1 分钟。

Spark运行架构由SparkContext、Cluster Manager和Worker组成。在集群模式下,Driver进程初始化SparkContext,并向Cluster Manager申请资源。Cluster Manager根据算法需求,在Worker节点上启动Executor。Executor负责接收任务并执行,完成后会向Cluster Manager反馈执行状态。Task Scheduler负责将任务分发给Executor执行,任务完成后,Driver会释放已申请的资源。

Spark架构的设计确保了资源管理与任务执行的高效协作,为大规模并行计算作业的顺利完成提供了技术保障。

转载地址:http://yyrfk.baihongyu.com/

你可能感兴趣的文章
MSSQL日期格式转换函数(使用CONVERT)
查看>>
MSTP多生成树协议(第二课)
查看>>
MSTP是什么?有哪些专有名词?
查看>>
Mstsc 远程桌面链接 And 网络映射
查看>>
Myeclipse常用快捷键
查看>>
MyEclipse用(JDBC)连接SQL出现的问题~
查看>>
myeclipse的新建severlet不见解决方法
查看>>
MyEclipse设置当前行背景颜色、选中单词前景色、背景色
查看>>
myeclipse配置springmvc教程
查看>>
MyEclipse配置SVN
查看>>
MTCNN 人脸检测
查看>>
MyEcplise中SpringBoot怎样定制启动banner?
查看>>
MyPython
查看>>
MTD技术介绍
查看>>
MySQL
查看>>
MySQL
查看>>
mysql
查看>>
MTK Android 如何获取系统权限
查看>>
MySQL - 4种基本索引、聚簇索引和非聚索引、索引失效情况、SQL 优化
查看>>
MySQL - ERROR 1406
查看>>