Skip to content

LangTan/gemini-balance-do

 
 

Repository files navigation

Gemini API 负载均衡器 (gemini-balance-do)

参考项目:https://github.com/tech-shrimp/gemini-balance-lite ,基于爬爬虾的项目改造了一下,更适合在 cloudflare worker 中使用,即使是广东用户也不担心,哪怕你请求的 worker 节点在香港,最后请求也会路由到美国再向 Gemini 发起请求!

这是一个部署在 Cloudflare Workers 上的 Gemini API 负载均衡器和代理服务,使用了 Durable Objects 来存储和管理 API 密钥。

Youtube: https://youtu.be/_5a6HfL2wn4

假如视频对你有帮助,别忘了帮我点个赞,有什么问题也可以在评论区讨论😂

它旨在解决以下问题:

  • 将多个 Gemini API 密钥聚合到一个端点中。
  • 通过随机轮询密钥池来实现请求的负载均衡。
  • 提供与 OpenAI API 兼容的接口,使现有工具可以轻松集成。

✨ 主要功能

  • Gemini API 代理: 作为 Google Gemini API 的稳定代理。
  • 负载均衡: 在配置的多个 API 密钥之间随机分配请求。
  • OpenAI API 格式兼容: 支持 /v1/chat/completions, /v1/embeddings/v1/models 等常用 OpenAI 端点。
  • 流式响应: 完全支持 Gemini API 的流式响应。
  • API 密钥管理:
    • 提供一个简单的 Web UI 用于批量添加和查看 API 密钥。
    • 提供 API 接口用于检查并自动清理失效的密钥。
  • 持久化存储: 使用 Cloudflare Durable Objects 内的 SQLite 安全地存储 API 密钥。

🚀 部署

你可以通过以下两种方式将此项目部署到你自己的 Cloudflare 账户:

方法一:通过 Wrangler CLI 部署

  1. 克隆项目

    git clone https://github.com/zaunist/gemini-balance-do.git
    cd gemini-balance-do
  2. 安装依赖

    pnpm install
  3. 登录 Wrangler

    npx wrangler login
  4. 部署到 Cloudflare

    pnpm run deploy

    部署成功后,Wrangler 会输出你的 Worker URL。

方法二:通过 Cloudflare Dashboard 部署 (推荐)

  1. Fork 项目: 点击本仓库右上角的 "Fork" 按钮,将此项目复刻到你自己的 GitHub 账户。

  2. 登录 Cloudflare: 打开 Cloudflare Dashboard

  3. 创建 Worker:

    • 在左侧导航栏中,进入 Workers & Pages
    • 点击 创建应用程序 -> 连接到 Git
    • 选择你刚刚 Fork 的仓库。
    • 在“构建和部署”设置中,Cloudflare 通常会自动检测到这是一个 Worker 项目,无需额外配置。
    • 点击 保存并部署

🔑 API 密钥管理

部署完成后,你可以通过访问你的 Worker URL 来管理 Gemini API 密钥。

  • 访问管理面板: 在浏览器中打开你的 Worker URL (例如 https://gemini-balance-do.your-worker.workers.dev)。
  • 批量添加密钥: 在文本框中输入你的 Gemini API 密钥,每行一个,然后点击“添加密钥”。
  • 查看和刷新: 在右侧面板可以查看已存储的密钥,并可以点击“刷新”按钮更新列表。
  • 一键检查: 点击“一键检查”按钮,可以检查 API key 可用性。
  • 批量删除: 选中无效的 API key,可以一键删除所有无效的 API key。

💻 API 用法

使用方式,在 AI 客户端中,填入以下配置:

BaseURL: <你的worker地址>

API 密钥: ajielu

默认 API 密钥为 ajielu,如果需要自定义,可自行去 wrangler.jsonc 中修改AUTH_KEY的值,修改完成以后重新部署即可

管理 API

  • GET /api/keys: 获取所有已存储的 API 密钥。
  • POST /api/keys: 批量添加 API 密钥。请求体为 {"keys": ["key1", "key2"]}
  • GET /api/keys/check: 检查所有密钥的有效性
  • DELETE /api/keys: 批量删除 API 密钥。请求体为 {["key1", "key2"]}

About

No description, website, or topics provided.

Resources

Stars

Watchers

Forks

Releases

No releases published

Packages

 
 
 

Contributors

Languages

  • TypeScript 100.0%