OpenAI 接口管理|分发系统(AI中转计费平台系统源码)

OpenAI 接口管理|分发系统(AI中转计费平台系统源码)

系统介绍

这是一个 OpenAI 接口管理和分发的系统,它支持诸如 Azure、Anthropic Claude、Google PaLM 2 和 Gemini、智谱的 ChatGLM、百度的文心一言、讯飞的星火认知、阿里的通义千问、360 的智脑以及腾讯的混元等。该系统可以用于二次分发管理密钥,仅为单个可执行文件,Docker 镜像已打包好,能够一键部署,直接使用。这是一个 OpenAI 密钥管理和再分发的系统,采用单个 API 服务所有语言模型,还拥有英文界面。

支持多种大模型

  • OpenAI ChatGPT 系列模型(支持 Azure OpenAI API)
  • Anthropic Claude 系列模型 (支持 AWS Claude)
  • Google PaLM2/Gemini 系列模型
  • Mistral 系列模型
  • 节跳动豆包大模型
  • 百度文心一言系列模型
  • 阿里通义千问系列模型
  • 讯飞星火认知大模型
  • 智谱 ChatGLM 系列模型
  • 360 智脑
  • 腾讯混元大模型
  • Moonshot AI
  • 百川大模型
  • MINIMAX
  • Groq
  • Ollama
  • 零一万物
  • 阶跃星辰
  • Coze
  • Cohere
  • DeepSeek
  • Cloudflare Workers AI
  • DeepL
  • together.ai

功能说明

  • 支持配置镜像以及众多第三方代理服务。
  • 支持通过负载均衡的方式访问多个渠道。
  • 支持 stream 模式,可以通过流式传输实现打字机效果。
  • 支持多机部署,详见此处。
  • 支持令牌管理,设置令牌的过期时间、额度、允许的 IP 范围以及允许的模型访问。
  • 支持兑换码管理,支持批量生成和导出兑换码,可使用兑换码为账户进行充值。
  • 支持渠道管理,批量创建渠道。
  • 支持用户分组以及渠道分组,支持为不同分组设置不同的倍率。
  • 支持渠道设置模型列表。
  • 支持查看额度明细。
  • 支持用户邀请奖励。
  • 支持以美元为单位显示额度。
  • 支持发布公告,设置充值链接,设置新用户初始额度。
  • 支持模型映射,重定向用户的请求模型,如无必要请不要设置,设置之后会导致请求体被重新构造而非直接透传,会导致部分还未正式支持的字段无法传递成功。
  • 支持失败自动重试。
  • 支持绘图接口。
  • 支持 Cloudflare AI Gateway,渠道设置的代理部分填写 https://gateway.ai.cloudflare.com/v1/ACCOUNT_TAG/GATEWAY/openai 即可。
  • 支持丰富的自定义设置,
  • 支持自定义系统名称,logo 以及页脚。
  • 支持自定义首页和关于页面,可以选择使用 HTML & Markdown 代码进行自定义,或者使用一个单独的网页通过 iframe 嵌入。
  • 支持通过系统访问令牌调用管理 API,进而在无需二开的情况下扩展和自定义 One API 的功能,详情请参考此处 API 文档。。
  • 支持 Cloudflare Turnstile 用户校验。
  • 支持用户管理,支持多种用户登录注册方式:
  • 邮箱登录注册(支持注册邮箱白名单)以及通过邮箱进行密码重置。
  • 支持使用飞书进行授权登录。
    GitHub 开放授权。
  • 微信公众号授权(需要额外部署 WeChat Server)。
  • 支持主题切换,设置环境变量 THEME 即可,默认为 default,欢迎 PR 更多主题,具体参考此处。
    配合 Message Pusher 可将报警信息推送到多种 App 上。

重要提示

根据《生成式人工智能服务管理暂行办法》的要求,请勿对中国地区公众提供一切未经备案的生成式人工智能服务!

安装部署

安装部署见下载链接

其他说明

  • 使用 Docker 拉取的最新镜像可能是 alpha 版本,如果追求稳定性请手动指定版本。
  • 使用 root 用户初次登录系统后,务必修改默认密码 123456

截图展示

OpenAI 接口管理|分发系统(AI中转计费平台系统源码)插图
OpenAI 接口管理

 

OpenAI 接口管理|分发系统(AI中转计费平台系统源码)插图
OpenAI 接口管理
© 版权声明
THE END
喜欢就支持一下吧
点赞8 分享