监控中心

监控中心用于观察系统实时和历史性能表现, 帮助你从模型、用户、应用、分组、代理、提供商和密钥等维度发现问题

适用角色

• 管理员: 查看全站性能、代理线路、提供商和密钥表现, 便于及时发现系统瓶颈

• 代理商: 查看自己业务范围内的用户、应用和分组性能情况

• 普通用户: 查看自己账号相关的调用性能表现

功能说明

• 实时监控: 可持续观察当前运行状态, 支持暂停和恢复刷新

• 历史监控: 可切换到历史模式查看过往性能数据, 便于复盘问题

• 全局指标: 展示进行中视频、排队中视频、进行中批处理和排队中批处理等关键状态

• 多维度性能: 支持按模型、用户、应用、应用密钥、分组、模型代理、提供商和模型密钥查看性能

• 吞吐指标: 可观察请求量等吞吐表现, 判断当前业务压力

• 耗时指标: 支持查看平均总耗时、平均连接耗时、平均持续时间和平均内耗时间

• 质量指标: 支持查看成功率和错误数, 便于快速判断稳定性

• Token 指标: 支持查看输入 Token、输出 Token 和平均 Token / 请求, 辅助判断调用负载

• 布局切换: 支持自动、单列和双列布局, 方便在不同屏幕和排查场景下查看

使用场景

• 线上调用变慢时, 快速判断是模型、代理、提供商还是密钥维度异常

• 视频或批处理任务堆积时, 查看进行中和排队状态

• 对比实时与历史表现, 判断问题是偶发波动还是持续异常

• 持续观察核心客户、核心应用或核心模型的调用质量