⇄

LLM Proxy

登录管理面板以继续

总览
⇄
LLM Proxy
API 中转代理

总览

一眼掌握网关健康、今日用量与潜在风险

今日请求趋势(按小时)

上游健康

今日用量

风险洞察

近期失败调用

配置管理

管理上游 API 端点、重试与轮询策略

当前为只读账号,可查看配置与监控数据,但不能修改任何设置。

上游 API / Key

#名称优先级Base URLKey健康状态操作

重试与轮询策略

单个上游内的重试
同一个上游失败后重试几次、每次隔多久。退避按 2 倍递增,直到上限。
跨上游的切换与总闸门
一个上游用尽重试后切换到下一个;总超时是整个请求的硬上限。
0 = 不限制,会依次尝试所有上游。
0 = 不限制。流式响应开始后不受此限制。

Webhook 告警

当某个上游连续失败达到阈值时,向企业微信 / 钉钉机器人推送告警。同一上游在冷却时间内只推送一次,避免告警风暴。

客户端 Key

给调用代理的应用签发凭据,支持到期时间与 token 额度控制

客户端 API Key

应用请求头 Authorization: Bearer <key> 必须匹配某个启用、未过期、未超额度的 key,否则拒绝。若一个 key 都不配置,则代理开放(任何人可调)。

名称Key到期额度(token)已用状态操作

监控日志

最近 100 次代理调用,每 5 秒自动刷新,悬停表格时暂停

最近调用

自动刷新中
时间 路由 上游 状态 耗时 token 结果
共 0 条
1 / 1

统计报表

调用量、成功率与 token 用量趋势

→

请求次数趋势

按客户端 Key 的 Token 用量

客户端 KeyToken 用量

按日统计

日期调用成功失败限流超时网络服务端输入tok输出tok总tok

账号管理

管理面板登录账号与权限角色

面板账号

管理员可修改配置、管理 Key 和告警;只读账号只能查看监控与统计,无法执行任何写操作。最后一个管理员不可删除。

用户名角色操作

调用详情

确认操作

键盘快捷键

123456切换到 总览 / 配置 / Key / 监控 / 统计 / 账号 标签页
R刷新当前标签页数据
T切换暗色 / 亮色主题
N在 Key 标签页签发新 Key(管理员)
/聚焦监控日志筛选框
?显示本快捷键帮助
Esc关闭弹窗 / 取消聚焦

上游连通性测试

·

新增上游

数字越大越优先调用;相同优先级的上游轮询分摊流量。高优先级上游连续失败会被临时降级,恢复后自动回到原位。

签发新 Key

已为 签发客户端 Key,请立即复制保存(关闭后将无法再次查看完整 Key)。


      

新增面板账号

修改密码

正在修改 的密码