高性能！一个企业级的 AI 接口透明代理服务！

大家好，我是 Java陈序员。

随着 AI 技术深入各种场景，越来越多开发者和企业开始同时对接 OpenAI、Google Gemini、Anthropic Claude 等多个 AI 平台，随之而来的密钥管理与接口调用难题，逐渐成为制约效率的“绊脚石”。

今天，给大家介绍一个企业级的 AI 接口透明代理服务，专为高并发生产环境而设计！

关注微信公众号：【Java陈序员】，获取开源项目分享、AI副业分享、超200本经典计算机电子书籍等。

项目介绍

gpt-load —— 一个基于 Go + Vue 开发、高性能、企业级的 AI 接口透明代理服务，专门为需要集成多种 AI 服务的企业和开发者设计。具备智能密钥管理、负载均衡和完善的监控功能。

功能特色：

• 无缝兼容：完全保留原生 API 格式，支持 OpenAI、Google Gemini 和 Anthropic Claude 等多平台
• 智能密钥管理：内置高性能密钥池，支持分组管理、自动轮换和故障恢复
• 负载均衡&高性能：支持多上游端点加权负载均衡，搭配分布式主从部署和水平扩展能力，轻松应对高并发场景
• 可视化后台：基于 Vue3 搭建的管理界面，清晰呈现仪表盘、密钥管理、请求日志、系统设置等功能
• 双重认证：管理端与代理端认证分离，支持全局和分组级别代理密钥

技术栈：

• 后端：Go + Gin + MySQL + Redis
• 前端： Vue3 + TypeScript + Naive UI

快速上手

gpt-load 支持 Docker 部署，使用 SQLite 数据库和内存存储，最适合个人使用和快速体验。

Docker 部署

1、拉取镜像

docker pull ghcr.io/tbphp/gpt-load:latest

2、创建挂载目录

mkdir -p /data/software/gpt-load

3、启动容器

docker run -d --name gpt-load \
    -p 3001:3001 \
    -e AUTH_KEY=your-secure-key-here \
    -v /data/software/gpt-load:/app/data \
    ghcr.io/tbphp/gpt-load:latest

请将 your-secure-key-here 改为强密码（不要使用默认值）！！！

4、容器运行成功后，浏览器访问

http://{IP/域名}:3001

使用 AUTH_KEY 设置的值即可登录使用。

Docker Compose 部署

1、创建工作目录并进入

mkdir -p /data/software/gpt-load && cd /data/software/gpt-load

2、下载 docker-compose.yml 和配置文件

# 下载 Docker Compose 配置
wget https://raw.githubusercontent.com/tbphp/gpt-load/refs/heads/main/docker-compose.yml

# 下载环境变量配置
wget -O .env https://raw.githubusercontent.com/tbphp/gpt-load/refs/heads/main/.env.example

3、修改配置文件 .env 中的 AUTH_KE 为安全的密钥

AUTH_KEY=sk-prod-AbCdEfGh123456$#@!XyZabc789012

4、启动服务

docker compose up -d

如要提升系统性能和可靠性，可自定义修改配置文件，配置 MySQL/PostgreSQL 数据库和 Redis 缓存。

5、容器运行成功后，浏览器访问

http://{IP/域名}:3001

使用 AUTH_KEY 设置的值即可登录使用。

API 使用说明

gpt-load 通过分组名称路由请求到不同的 AI 服务，使用方式如下。

1、代理端点格式

http://{IP/域名}:3001/proxy/{group_name}/{原始API路径}

• {group_name}: 在管理界面创建的分组名称
• {原始API路径}: 保持与原始 AI 服务完全一致的路径

2、使用示例

• 原始调用方式：

curl -X POST https://api.openai.com/v1/chat/completions \
  -H "Authorization: Bearer sk-your-openai-key" \
  -H "Content-Type: application/json" \
  -d '{"model": "gpt-4.1-mini", "messages": [{"role": "user", "content": "Hello"}]}'

• 代理调用方式：

curl -X POST http://localhost:3001/proxy/openai/v1/chat/completions \
  -H "Authorization: Bearer your-proxy-key" \
  -H "Content-Type: application/json" \
  -d '{"model": "gpt-4.1-mini", "messages": [{"role": "user", "content": "Hello"}]}'

3、更多的接入说明可参考项目文档

在线文档：https://www.gpt-load.com/docs/integrations

功能体验

• 登录页

• 仪表盘

• 密钥管理

• 日志

• 系统设置

可以说，不管是个人开发者、创业团队，还是企业运维人员，需要集成多厂商 AI 接口，gpt-load 这款 AI 接口代理工具，都能解决密钥管理、高可用、多平台兼容的核心痛点。快去部署试试吧~

项目地址：https://github.com/tbphp/gpt-load

最后

推荐的开源项目已经收录到 GitHub 项目，欢迎 Star：

https://github.com/chenyl8848/great-open-source-project

或者访问网站，进行在线浏览：

https://chencoding.top:8090/#/

我创建了一个开源项目交流群，方便大家在群里交流、讨论开源项目。

但是任何人在群里打任何广告，都会被 T 掉。

如果你对这个交流群感兴趣或者在使用开源项目中遇到问题，可以通过如下方式进群：

关注微信公众号：【Java陈序员】，回复【开源项目交流群】进群，或者通过公众号下方的菜单添加个人微信，并备注【开源项目交流群】，通过后拉你进群。

大家的点赞、收藏和评论都是对作者的支持，如文章对你有帮助还请点赞转发支持下，谢谢！

---