AI 服务管理

服务状态、配置、运行日志和请求日志
当前服务流程图与数据存储实线:请求 绿虚线:日志 紫色:数据存储 橙虚线:读取
客户端API / SSE 请求 Nginx域名与 HTTPS affinity-gateway稳定前缀亲和键 retry-gateway首 Token 超时与重试 NewAPI亲和选渠与计费 上游渠道GLM 等模型资源 ai-admin状态、配置与日志展示 log-service保存请求日志与索引 alert-service读取日志指标并告警 日志数据:SQLite + JSONL主机:/opt/land-ai/ai-observability-data Redis临时排除渠道new-api-redis PostgreSQLNewAPI 渠道、用户计费与业务配置
渠道质量
渠道状态尝试/成功率TTFT 平均/P50/P95近似 TPOT峰值 RPM/TPM首Token超时HTTP/空流/流错误最近错误
LLM Call-