OpenTelemetry 全链路追踪 AI AgentJarvis Registry 可观测性配置指南Grafana Prometheus Tempo【免费下载链接】jarvis-registryConnect any AI copilot or autonomous agent to your enterprise tools — through a single, secure MCP/Agent gateway with built-in identity, access control, and full observability.项目地址: https://gitcode.com/gh_mirrors/ja/jarvis-registryJarvis Registry是一个企业级 MCP/Agent 网关让任意 AI 助手或自主 Agent 安全地连接企业内部工具。它内置了基于OpenTelemetry的全链路追踪能力平台服务Registry、MCP 网关、Auth Server输出平台指标AI Agent 输出LLM 调用链路Traces全部经 OTel Collector 汇聚后默认落地到Grafana Prometheus Tempo这套自托管参考栈开箱即可在浏览器里查看调用率、p95 延迟和 Token 用量。为什么 AI Agent 需要全链路追踪 ️传统的看 CPU、看日志对 AI 系统远远不够。你更关心的问题通常是哪个LLM 模型被调用了多少次每次请求消耗了多少输入/输出 Token直接关联成本请求p95/p99 延迟是否劣化认证、OAuth 回调、工具执行等平台侧操作是否正常Jarvis Registry 用两类互补信号回答这些问题信号类型来源回答的问题平台指标 MetricsRegistry / Auth Server / MCP 网关请求数、延迟、错误率、资源用量Agent 链路 TracesAI AgentOpenLLMetry 插桩调用了哪个模型、Token 用量、耗时两条链路统一使用OTLP协议上报后端可换可加New Relic、Datadog、Splunk、Langfuse 等且无需改一行应用代码。架构上所有遥测数据都汇聚到一个厂商中立的 OTel Collector再由它分发到各家后端——这是你切换或叠加可观测性平台的唯一接缝。快速启动docker compose 一键拉起 Grafana 全家桶 观测栈的所有组件Collector、Tempo、Prometheus、Grafana都已写在 docker-compose.yml 中属于fullprofile随主栈一起启动docker compose --profile full up -d启动后直接访问对应端口即可组件端口作用Grafana3000默认管理员密码admin仪表盘、指标与链路可视化入口Prometheus9090存储平台指标Tempo3200存储 OTLP 链路TracesOTel Collector4317gRPC/4318HTTP接收所有服务与 Agent 的 OTLP 数据各服务通过环境变量OTEL_EXPORTER_OTLP_ENDPOINThttp://otel-collector:4318自动把数据上报给 CollectorOTEL_SERVICE_NAME如mcp-gateway-registry、auth-server区分来源。数据怎么流Collector 的三条管道核心配置在 config/otel-collector-config.yaml逻辑非常简单——Collector 监听 OTLP 的 gRPC/HTTP 端口经batch处理器后分发logs→debug导出器打印到容器日志便于排查metrics→prometheus导出器暴露在8889端口供 Prometheus 抓取traces→otlp_http/tempo本地 config/tempo.yaml 定义的本地存储保留 24 小时otlp_http/langfuse可选的云端链路后端Prometheus 侧由 config/prometheus.yml 定义抓取任务每 10 秒抓取一次otel-collector:8889。Grafana 的数据源和仪表盘均为自动预配置provisioning数据源config/grafana/datasources/prometheus.yml 同时注册了 Prometheus 与 Tempo并开启Traces to Metrics 跳转和Service Map 服务拓扑图仪表盘config/grafana/dashboards/dashboard.yml 自动加载 config/grafana/dashboards/ 目录下的全部 JSON 面板也就是说你只需要启动容器不用手动在 Grafana 里建数据源、导面板。平台指标Registry、网关与认证服务在忙什么 指标由两个声明式 YAML 驱动新增指标只需改配置Registry 侧config/metrics/registry.yml计数类注册表操作、MCP 服务器请求、工具发现 / 工具执行、资源访问、Prompt 执行、认证请求、Workflow 运行与工具调用延迟直方图可算 p50/p95/p99注册表操作、工具执行、认证请求、Workflow 运行等Auth 侧config/metrics/auth_server.yml认证请求、Token 生成/刷新/吊销、OAuth 回调与授权、会话创建与校验及其延迟指标实现位于 registry/src/registry/utils/otel_metrics.py 与 auth-server/src/auth_server/utils/otel_metrics.py按 service 名分桶上报。AI Agent 链路追踪看清每次 LLM 调用的成本与延迟 Agent 侧统一采用OpenLLMetry作为唯一插桩层输出厂商中立的OpenTelemetry GenAI 语义约定gen_ai.*属性任何遵循约定的 Agent 都能零配置出现在仪表盘里。参考仪表盘按Agent AI 提供商 模型三个维度拆解 LLM 行为调用率req/s、p95 延迟、输入/输出 Token 用量——这正是成本归因和性能排查最需要的视角要让 Agent 接入只需两个环境变量OTEL_SEMCONV_STABILITY_OPT_INgen_ai_latest_experimental— 启用最新 GenAI 约定Token 落到gen_ai.usage.input_tokens / output_tokensOTEL_EXPORTER_OTLP_ENDPOINT— 指向 OTel 网关/Collector未设置时遥测自动失效no-op本地开发与 CI 完全不受影响Grafana 仪表盘MCP 网关分析一览 除了 LLM 视角MCP Gateway - Analytics Dashboard把平台侧活动整合在同一屏实时协议活动Initialize / Tools List / Tool Call 速率、认证成功/失败流、认证成功率、活跃 MCP 服务器数、每小时工具执行量、最热门工具以及 P95/P99 协议延迟分析更多内置面板可在 config/grafana/dashboards/ 中查看覆盖认证服务、MCP 分析、Registry、Workflow 等视角。隐私与安全遥测不泄露 Prompt 内容 默认情况下 LLM 插桩可能把完整 Prompt 和回复文本写入 Span 属性。Jarvis 在源头就关闭了这一点TRACELOOP_TRACE_CONTENTfalse— 只记录元数据模型、Token 数、延迟丢弃gen_ai.input.messages、gen_ai.output.messages等内容字段内容在离开 Agent 前就被剥离永远不会到达 Collector 或任何下游后端而 Token 统计不受影响用量与成本视图照常工作。传输层面平台指标走集群内网Agent 链路经外部网关进入时默认使用TLS Bearer Token认证若 Agent 与网关在同一 VPC如 Bedrock AgentCore、Azure Container Apps、Cloud Run VPC 连接器可改用内网负载均衡器让端点完全不对公网暴露。常用配置与文档速查 文件说明config/otel-collector-config.yamlCollector 管道接收 OTLP分发到 Prometheus / Tempo / Langfuseconfig/prometheus.ymlPrometheus 抓取任务otel-collector:8889config/tempo.yamlTempo 本地链路存储24h 保留config/grafana/数据源与仪表盘自动预配置config/metrics/Registry 与 Auth Server 指标声明docs/features/observability.md可观测性官方设计文档含后端接入对照表小结 ✅Jarvis Registry 的可观测性设计可以概括为一句话OTLP 统一上报、Collector 统一分发、Grafana 全家桶统一展示。你只需docker compose --profile full up -d一条命令就能获得从平台指标到 AI Agent LLM 调用的全链路追踪能力而接入 New Relic、Datadog、Grafana Cloud 等其他后端也只需在 Collector 里加一个 exporter——应用代码零改动。【免费下载链接】jarvis-registryConnect any AI copilot or autonomous agent to your enterprise tools — through a single, secure MCP/Agent gateway with built-in identity, access control, and full observability.项目地址: https://gitcode.com/gh_mirrors/ja/jarvis-registry创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考