gpt-load是一个Go写的AI API透明代理。你把所有key扔进一个池子里，它帮你做轮询、负载均衡、故障转移，上游支持OpenAI、Gemini、Claude三种格式，下游统一暴露成一个代理地址。

核心能力

能力	说明
多格式支持	OpenAI、Gemini、Claude三格式统一
key池管理	按分组管理，自动轮询
故障转移	失败自动换key，连续失败进黑名单
热更新	Web管理后台改配置不用重启

密钥管理

特性	说明
分组管理	每个分组可配不同模型、不同上游
健康检测	失败自动换下一个
黑名单	连续失败自动拉黑，过段时间恢复
代理认证	全局key和分组级key

部署方式

# Docker一行命令
docker run -d -p 8080:8080 tbphp/gpt-load

# 默认SQLite够轻量
# 集群部署切MySQL + Redis，follower节点设IS_SLAVE=true

管理后台

• Vue 3做的管理界面，操作直观
• 静态配置（端口、数据库、认证key）通过环境变量
• 动态配置（系统设置、分组配置）Web后台热更新
• 请求日志：谁调了什么、什么时候、花了多少token

性能优化

优化	说明
零拷贝流式传输	减少内存拷贝
连接池复用	减少连接开销
原子操作	Go并发安全
日志轮转	按天轮转，可配置保留天数

适用场景

• 团队共用AI API
• 需要多key轮询防限流
• 想统一管理多个模型的接入

📦 GitHub：github.com/tbphp/gpt-load 🌐 官网：gpt-load.com