2.3 Spark运行架构与原理-白红宇

2.3 Spark运行架构与原理

阅读量：797 次

发布时间：2023-04-04

本文共 296 字，大约阅读时间需要 1 分钟。

Spark运行架构由SparkContext、Cluster Manager和Worker组成。在集群模式下，Driver进程初始化SparkContext，并向Cluster Manager申请资源。Cluster Manager根据算法需求，在Worker节点上启动Executor。Executor负责接收任务并执行，完成后会向Cluster Manager反馈执行状态。Task Scheduler负责将任务分发给Executor执行，任务完成后，Driver会释放已申请的资源。

Spark架构的设计确保了资源管理与任务执行的高效协作，为大规模并行计算作业的顺利完成提供了技术保障。

转载地址：http://yyrfk.baihongyu.com/

你可能感兴趣的文章

Mysql 共享锁

MySQL 内核深度优化

mysql 内连接、自然连接、外连接的区别

mysql 写入慢优化

mysql 分组统计SQL语句

Mysql 分页语句 Limit原理

MySQL 创建新用户及授予权限的完整流程

mysql 创建表，不能包含关键字values 以及表id自增问题

mysql 删除日志文件详解

mysql 判断表字段是否存在，然后修改

mysql 协议的退出命令包及解析

mysql 取表中分组之后最新一条数据分组最新数据分组取最新数据分组数据获取每个分类的最新数据

mysql 多个表关联查询查询时间长的问题

mySQL 多个表求多个count

mysql 多字段删除重复数据，保留最小id数据

MySQL 多表联合查询：UNION 和 JOIN 分析

MySQL 大数据量快速插入方法和语句优化

mysql 如何给SQL添加索引

mysql 字段区分大小写