Apache DolphinScheduler 监控中心指南服务健康巡检、命令统计与审计日志实战【免费下载链接】dolphinschedulerApache DolphinScheduler is the modern data orchestration platform. Agile to create high performance workflow with low-code项目地址: https://gitcode.com/GitHub_Trending/dol/dolphinscheduler监控中心Monitoring Center是 Apache DolphinScheduler 面向运维与安全管理的核心入口用于实时掌握 Master、Worker、Alert Server 等分布式节点的健康状态追踪调度系统内部的命令积压情况并通过审计日志还原谁在何时执行了哪些操作。读完本文你将掌握监控中心的完整功能清单、页面背后的数据来源与接口调用链以及如何基于注册中心、数据库监控插件和审计模块进行故障排查与安全合规分析。监控中心功能总览在 DolphinScheduler Web UI 中监控中心主要分为两大板块对应前端源码目录 dolphinscheduler-ui/src/views/monitor 下的servers与statistics两个子目录板块子功能解决的核心问题服务管理ServersMaster、Worker、Alert Server、Database分布式服务节点是否存活、负载如何、数据库是否健康统计管理Statistics命令列表、失败命令列表、审计日志调度命令是否积压、失败命令分布、用户操作留痕其中服务管理的数据主要来自注册中心Registry节点信息与数据库监控插件统计管理的数据来自t_ds_command、t_ds_error_command表以及审计日志表两者在实现上分别由 API 模块的MonitorController、DataAnalysisController和AuditLogController提供支撑。服务管理实时掌握各服务节点健康状况服务管理主要对系统中各服务的健康状况和基本信息进行监控和显示登录 API Server 的 Web UI 后进入监控中心 → 服务管理即可看到多个标签页每个标签页对应一类服务节点。MasterMaster 标签页主要展示系统中所有 Master 节点的相关信息包括节点地址、注册时间等基本信息。在分布式部署或集群部署场景下如果启动了多个 Master这里会列出所有在线 Master 节点用于确认 Master 集群规模是否符合预期。WorkerWorker 标签页主要展示所有 Worker 节点的相关信息。与 Master 类似Worker 节点数量、地址、状态会全部展示出来便于确认工作节点是否全部注册成功以及排查 Worker 掉线导致的调度异常。Alert ServerAlert Server 标签页主要展示告警服务节点Alert Server的相关信息用于确认负责发送告警的服务是否健康在线。告警服务不可用时任务失败等告警将无法送达因此该页面是告警链路排查的第一站。DatabaseDatabase 标签页主要展示 DB 的健康状况。该页面展示的是 API 服务所连接元数据库如 MySQL、PostgreSQL、H2的健康状态属于服务管理中的核心健康指标。服务管理背后的实现原理从源码看服务管理页面的能力由 MonitorController 暴露其核心接口如下HTTP 接口说明GET /monitor/{nodeType}查询某类服务节点列表nodeType为注册中心节点类型GET /monitor/databases查询元数据库健康状态GET /monitor/masters/workflow-executors查询指定 Master 上运行中的工作流实例需管理员GET /monitor/workers/task-executors查询指定 Worker 上运行中的任务实例需管理员节点列表接口的核心实现在 MonitorServiceImpl.listServerOverride public ListServer listServer(RegistryNodeType nodeType) { return registryClient.getServerList(nodeType); }也就是说Master、Worker、Alert Server 的存活名单并非各自服务上报而是统一从注册中心默认 ZooKeeper也可选 JDBC 或 etcd 实现见 dolphinscheduler-registry 模块读取。RegistryNodeType枚举定义了各类节点在注册中心中的路径见 RegistryNodeType.javaMASTER(Master, /nodes/master)WORKER(Worker, /nodes/worker)ALERT_SERVER(AlertServer, /nodes/alert-server)因此服务管理页展示的实际上是注册中心上实时维护的节点列表这解释了为什么服务下线后该页面会立即感知。数据库健康检查则走插件化设计。MonitorServiceImpl注入了DatabaseMonitorMonitorServiceImpl 中databaseMonitor.getDatabaseMetrics()其具体实现按数据库类型分布在 dolphinscheduler-dao-plugin 下H2、MySQL、PostgreSQL 各有实现从dolphinscheduler-dao-api的DatabaseMetrics模型可以看出健康指标以数据库为单位返回供前端逐项渲染。此外监控中心还支持下钻到具体节点通过 RPC基于dolphinscheduler-extract的Clients客户端框架直连指定 Master/Worker 查询正在运行的工作流/任务实例。需要注意的是这两个下钻接口在 MonitorServiceImpl 中有明确的权限校验——仅ADMIN_USER管理员可以调用非管理员会抛出NO_CURRENT_OPERATING_PERMISSION。统计管理统计管理用于查看调度系统的运行数据与操作留痕包括命令统计、失败命令统计与审计日志三部分。命令列表Command Statistics命令列表展示系统中的命令列表数据来自t_ds_command表。DolphinScheduler 中工作流实例的触发手动运行、定时调度、补数等都会先落成一条 Command 记录由 Master 消费后生成工作流实例因此该表是待调度请求的积压晴雨表。失败命令列表Failure Command Statistics失败命令列表展示系统中的失败命令列表数据来自t_ds_error_command表。当命令执行失败时会被迁移到错误命令表页面可据此排查大量调度请求失败的原因例如依赖的租户/环境异常、Master 消费失败等。从接口层面看这两张列表由 DataAnalysisController 提供GET /projects/analysis/listCommand分页查询待处理命令Command实体GET /projects/analysis/listErrorCommand分页查询失败命令ErrorCommand实体两个接口都要求pageNo页码默认示例 1与pageSize每页条数默认示例 20两个必填分页参数并会先经过checkPageParams参数校验可选传projectCode以限定项目范围。与之配套的还有GET /projects/analysis/command-state-count与GET /projects/analysis/queue-count分别用于统计命令状态分布与队列积压情况与命令列表共同构成命令健康度的完整视图。审计日志审计日志的记录提供了有关谁访问了系统以及他或她在给定时间段内执行了哪些操作的信息对于维护安全安全审计、合规留痕、异常行为追溯都很有用。审计日志页面支持按多种维度组合筛选还原每一次关键操作。从接口定义看AuditLogController审计日志支持以下查询条件查询参数含义是否必填pageNo/pageSize分页页码 / 每页条数是modelTypes操作对象模型类型如项目、工作流、数据源否operationTypes操作类型如创建、更新、删除、上线否userName操作人用户名否modelName操作对象名称否startDate/endDate操作时间范围否此外还提供两个下拉选项接口GET /projects/audit/audit-log-operation-type操作类型列表与GET /projects/audit/audit-log-model-type模型类型列表用于前端筛选器渲染。从实现上看审计日志覆盖面非常广。枚举 AuditType 将对象类型 操作类型两两组合成了几十种审计事件例如对象类型AuditModelType包括PROJECT项目、WORKFLOW工作流、WORKFLOW_INSTANCE工作流实例、TASK任务、TASK_INSTANCE任务实例、SCHEDULE定时、DATASOURCE数据源、USER用户、TENANT租户、TOKEN访问令牌、ALARM_GROUP/ALARM_INSTANCE告警组/告警实例、WORKER_GROUPWorker 分组、YARN_QUEUE队列、ENVIRONMENT环境、CLUSTER集群、K8S_NAMESPACE、FILE/FOLDER资源文件/文件夹、TASK_GROUP任务组等操作类型AuditOperationType包括CREATE创建、UPDATE更新、DELETE/BATCH_DELETE删除/批量删除、START/BATCH_START/BATCH_RERUN运行/批量运行、EXECUTE执行、RELEASE发布、ONLINE/OFFLINE上线/下线、COPY、IMPORT/EXPORT、SWITCH_VERSION/DELETE_VERSION版本切换/删除版本、FORCE_SUCCESS强制成功、CLOSE、MODIFY等。每个审计事件还通过AuditOperator实现类如WorkflowAuditOperatorImpl、ProjectAuditOperatorImpl来声明需要记录哪些请求参数与返回对象字段如工作流CODE、版本号等。而审计记录的写入则基于 AOP 切面实现位于 dolphinscheduler-api/src/main/java/org/apache/dolphinscheduler/api/audit/OperatorLogAspect.java通过OperatorUtils从当前登录会话中提取操作人信息从而保证谁操作了什么能够被自动、无侵入地记录。实战排查建议结合监控中心的两个板块日常运维可以形成如下排查路径任务不调度 / 调度延迟先看服务管理中 Master、Worker 是否全部在线再看统计管理 → 命令列表是否存在大量命令积压t_ds_command堆积通常意味着 Master 消费速度跟不上必要时结合失败命令列表t_ds_error_command定位失败原因。数据库异常告警优先查看服务管理 → Database的数据库健康状况确认 API 所连接的元数据库连接是否正常排除因数据库故障导致的 API 不可用。安全合规与溯源在审计日志中按用户、时间范围、对象类型筛选即可还原某段时间内谁创建/删除了工作流、谁上线/下线了定时调度、谁修改了数据源等关键操作作为安全审计证据。权限边界服务管理中查看节点运行实例的下钻能力仅对管理员开放普通用户不可调用见MonitorServiceImpl的ADMIN_USER校验逻辑排查权限问题时可对照该实现。小结监控中心是 DolphinScheduler 运维闭环中的关键一环服务管理以注册中心为数据源实时呈现 Master、Worker、Alert Server 与元数据库的健康状态并提供管理员专属的节点运行实例下钻能力统计管理以t_ds_command、t_ds_error_command与审计日志为数据源帮助定位调度命令积压与失败问题并通过对象类型 × 操作类型的审计组合实现全量操作留痕。理解这些页面背后的接口与数据流能让你在集群规模较大时依然快速定位问题节点、回溯安全事件把监控中心从看板真正变成可依赖的排障工具。【免费下载链接】dolphinschedulerApache DolphinScheduler is the modern data orchestration platform. Agile to create high performance workflow with low-code项目地址: https://gitcode.com/GitHub_Trending/dol/dolphinscheduler创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考