博客
关于我
2.3 Spark运行架构与原理
阅读量:797 次
发布时间:2023-04-04

本文共 296 字,大约阅读时间需要 1 分钟。

Spark运行架构由SparkContext、Cluster Manager和Worker组成。在集群模式下,Driver进程初始化SparkContext,并向Cluster Manager申请资源。Cluster Manager根据算法需求,在Worker节点上启动Executor。Executor负责接收任务并执行,完成后会向Cluster Manager反馈执行状态。Task Scheduler负责将任务分发给Executor执行,任务完成后,Driver会释放已申请的资源。

Spark架构的设计确保了资源管理与任务执行的高效协作,为大规模并行计算作业的顺利完成提供了技术保障。

转载地址:http://yyrfk.baihongyu.com/

你可能感兴趣的文章
MaterialForm对tab页进行隐藏
查看>>
Member var and Static var.
查看>>
memcached高速缓存学习笔记001---memcached介绍和安装以及基本使用
查看>>
memcached高速缓存学习笔记003---利用JAVA程序操作memcached crud操作
查看>>
Memcached:Node.js 高性能缓存解决方案
查看>>
memcache、redis原理对比
查看>>
memset初始化高维数组为-1/0
查看>>
Metasploit CGI网关接口渗透测试实战
查看>>
Metasploit Web服务器渗透测试实战
查看>>
Moment.js常见用法总结
查看>>
MongoDB出现Error parsing command line: unrecognised option ‘--fork‘ 的解决方法
查看>>
mxGraph改变图形大小重置overlay位置
查看>>
MongoDB学习笔记(8)--索引及优化索引
查看>>
MQTT工作笔记0009---订阅主题和订阅确认
查看>>
ms sql server 2008 sp2更新异常
查看>>
MS UC 2013-0-Prepare Tool
查看>>
msbuild发布web应用程序
查看>>
MSB与LSB
查看>>
MSCRM调用外部JS文件
查看>>
MSCRM调用外部JS文件
查看>>