2.3 Spark运行架构与原理-白红宇

2.3 Spark运行架构与原理

阅读量：797 次

发布时间：2023-04-04

本文共 296 字，大约阅读时间需要 1 分钟。

Spark运行架构由SparkContext、Cluster Manager和Worker组成。在集群模式下，Driver进程初始化SparkContext，并向Cluster Manager申请资源。Cluster Manager根据算法需求，在Worker节点上启动Executor。Executor负责接收任务并执行，完成后会向Cluster Manager反馈执行状态。Task Scheduler负责将任务分发给Executor执行，任务完成后，Driver会释放已申请的资源。

Spark架构的设计确保了资源管理与任务执行的高效协作，为大规模并行计算作业的顺利完成提供了技术保障。

转载地址：http://yyrfk.baihongyu.com/

你可能感兴趣的文章

mysql 字段区分大小写

mysql 字段合并问题（group_concat）

mysql 字段类型类型

MySQL 字符串截取函数,字段截取，字符串截取

MySQL 存储引擎

mysql 存储过程注入_mysql 视图事务存储过程 SQL注入

MySQL 存储过程参数：in、out、inout

mysql 存储过程每隔一段时间执行一次

mysql 存在update不存在insert

Mysql 学习总结（86）—— Mysql 的 JSON 数据类型正确使用姿势

Mysql 学习总结（87）—— Mysql 执行计划（Explain）再总结

Mysql 学习总结（88）—— Mysql 官方为什么不推荐用雪花 id 和 uuid 做 MySQL 主键

Mysql 学习总结（89）—— Mysql 库表容量统计

mysql 实现主从复制/主从同步

mysql 审核_审核MySQL数据库上的登录

mysql 导入 sql 文件时 ERROR 1046 (3D000) no database selected 错误的解决

mysql 导入导出大文件

mysql 将null转代为0

MySQL 常用列类型