V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
爱意满满的作品展示区。
JusticeIsHere
V2EX  ›  分享创造

All in one 的 OpenAI 接口,整合各种 API 访问方式,也可作为 OpenAI API 代理使用,开箱即用~

  •  1
     
  •   JusticeIsHere · 2023-04-24 08:32:46 +08:00 · 6944 次点击
    这是一个创建于 583 天前的主题,其中的信息可能已经有所发展或是发生改变。

    前言

    由于众所周知的原因,OpenAI 的 API 在国内访问困难,因此目前出现了一批二手 API 卖家,但是这些二手 API 卖家的稳定性存疑。

    本项目的目的旨在聚合众多 API 接口,以提供一个尽量稳定的 API 访问渠道。

    同时本项目也可作为 OpenAI 的 API 代理服务器使用。

    或者你也想当 API 卖家,那么本项目也可以帮助你快速搭建一个 API 服务。

    项目地址: https://github.com/songquanpeng/one-api

    演示

    在线演示

    https://openai.justsong.cn

    注意,该演示站不提供对外服务,请自行搭建,已经打包好了 Docker 镜像,一键部署,详见下文。

    截图展示

    channel token

    功能

    1. 支持多种 API 访问渠道,欢迎 PR 或提 issue 添加更多渠道:
    2. 支持通过负载均衡的方式访问多个渠道。
    3. 支持单个访问渠道设置多个 API Key ,利用起来你的多个 API Key 。
    4. 支持 HTTP SSE 。
    5. 多种用户登录注册方式:
    6. 支持用户管理。

    部署

    执行:docker run -d --restart always -p 3000:3000 -v /home/ubuntu/data/one-api:/data -v /etc/ssl/certs:/etc/ssl/certs:ro justsong/one-api

    数据将会保存在宿主机的 /home/ubuntu/data/one-api 目录。

    配置

    系统本身开箱即用。

    你可以通过设置环境变量或者命令行参数进行配置。

    等到系统启动后,使用 root 用户登录系统并做进一步的配置。

    使用方式

    渠道页面中添加你的 API Key ,之后在令牌页面中新增一个访问令牌。

    之后就可以使用你的令牌访问 One API 了,使用方式与 OpenAI API 一致。

    可以通过在令牌后面添加渠道 ID 的方式指定使用哪一个渠道处理本次请求,例如:Authorization: Bearer ONE_API_KEY-CHANNEL_ID

    不加的话将会使用负载均衡的方式使用多个渠道。

    其他

    项目地址: https://github.com/songquanpeng/one-api

    目前来看将各种服务整合上 ChatGPT 是大势所趋,One API 可以为你的下一个 AI 项目提供一个稳定的 API 后端。

    期待大家的试用反馈!

    30 条回复    2023-05-01 22:04:37 +08:00
    huyujievip
        1
    huyujievip  
       2023-04-24 08:45:08 +08:00   ❤️ 1
    好看,已 star
    JusticeIsHere
        2
    JusticeIsHere  
    OP
       2023-04-24 08:49:38 +08:00
    @huyujievip 谢谢,期待大家的反馈~
    ieliwb
        3
    ieliwb  
       2023-04-24 09:15:29 +08:00
    厉害,方便
    redbeanzzZ
        4
    redbeanzzZ  
       2023-04-24 09:40:17 +08:00
    马一下先,后面有时间再折腾
    yudoo
        5
    yudoo  
       2023-04-24 09:47:10 +08:00
    如果我部署到香港服务器是不是就直接直接国内访问了
    A2042
        6
    A2042  
       2023-04-24 09:53:39 +08:00
    很不错,已 star
    JusticeIsHere
        7
    JusticeIsHere  
    OP
       2023-04-24 09:55:05 +08:00
    @ieliwb
    @redbeanzzZ
    @A2042 感谢支持!

    @yudoo 是的,可以作为代理服务器使用,但是听说香港 ip 会被 OpenAI 封账号,我是部署到美国节点
    feather12315
        8
    feather12315  
       2023-04-24 09:55:38 +08:00 via Android
    厉害
    YY
        9
    YY  
       2023-04-24 09:59:05 +08:00   ❤️ 1
    没有用量统计吗?
    JusticeIsHere
        10
    JusticeIsHere  
    OP
       2023-04-24 10:14:26 +08:00
    @YY 感谢建议,最近安排上这个。项目还在很早期的阶段,实际上我是两天前突然有了这个 idea ,所以肯定还有很多不完善的地方,发出来收集反馈意见。
    0703wzq
        11
    0703wzq  
       2023-04-24 11:11:41 +08:00   ❤️ 1
    请求频率限制 是否可以开放进行配置?全站或者针对令牌进行配置。
    JusticeIsHere
        12
    JusticeIsHere  
    OP
       2023-04-24 11:14:15 +08:00
    @0703wzq 好建议,感谢反馈,最近安排上~
    JusticeIsHere
        13
    JusticeIsHere  
    OP
       2023-04-24 11:19:55 +08:00
    @0703wzq 当前的频率限制确实太严格了,实际上这是我基于的模板项目里的配置,刚刚发了新版本 v0.1.2-alpha ,已经临时将频率限制设置为一个较大的值。再次感谢反馈,这算是比较严重的问题。
    yulgang
        14
    yulgang  
       2023-04-24 13:25:33 +08:00
    昨天发现他们放开了一部分 vps 的 ip 访问
    Mandyer
        15
    Mandyer  
       2023-04-24 13:30:05 +08:00
    复制令牌提示 复制失败。能否增加每个人的使用量限制呢?管理员后台为用户设置。
    JusticeIsHere
        16
    JusticeIsHere  
    OP
       2023-04-24 14:30:40 +08:00
    @Mandyer 复制失败这个不应该啊,你用的是什么浏览器?方便的话请提一个 issue 。

    使用限制这个已经在计划中了。

    感谢反馈。
    hnbcinfo
        17
    hnbcinfo  
       2023-04-24 23:13:30 +08:00

    复制失败
    hnbcinfo
        18
    hnbcinfo  
       2023-04-24 23:14:36 +08:00
    Chrome
    版本 112.0.5615.138 (正式版本) ( 64 位)
    JustSong
        19
    JustSong  
       2023-04-25 00:09:04 +08:00
    @hnbcinfo 复制失败是因为部署的网站未启用 HTTPS ,无法使用相关 API ,后续版本会做兼容。
    JusticeIsHere
        20
    JusticeIsHere  
    OP
       2023-04-25 00:10:54 +08:00
    @hnbcinfo 用错账号了,上面是我的另一个账号。
    soft101team
        21
    soft101team  
       2023-04-25 14:14:06 +08:00
    有一个疑问:每一个服务都有自己的一套 api ,咱们的这个我看是用 go 写的。我们是针对微软的 api 服务,还有 chatgpt 的服务网,以及过来国内出现的文心一言的 api 都做了封装?还是说只适配 openapi 的 chatgpt ?
    JusticeIsHere
        22
    JusticeIsHere  
    OP
       2023-04-25 14:29:27 +08:00
    @soft101team 目前只支持 OpenAI 和一众第三方代理。未来等文心一言等开放 API 后,也会去做支持,且封装成同样的格式,这样一众应用无需修改就可以直接接入了。
    yisier
        23
    yisier  
       2023-04-25 15:11:31 +08:00
    看看这个,http://easyai.ink 免费的 gpt3.5 不需要注册,支持上下文对话,还支持 Midjourney
    hbytw1
        24
    hbytw1  
       2023-04-26 14:05:21 +08:00
    使用教程写的不是很详细,现在很多应用不支持自定义 api 或者是不支持自定义 key ,这个怎么搞。key 的格式能不能高仿官方的格式,这样可以跳过检测检测 sk-这种格式的问题。
    JusticeIsHere
        25
    JusticeIsHere  
    OP
       2023-04-26 18:19:41 +08:00
    @yuantianwei 最近更新比较频繁,教程之后会再整理一次;不支持自定义 API 的话,如果对面不修改那目前没什么好方法; key 的格式的话,可以考虑更改,虽然我感觉这是第三方应用的设计问题。
    Asimov01
        26
    Asimov01  
       2023-04-28 19:08:18 +08:00   ❤️ 1
    很棒 🎉,已 star ,并且还 star 了 message-pusher
    JusticeIsHere
        27
    JusticeIsHere  
    OP
       2023-04-28 21:47:41 +08:00
    @Asimov01 感谢~
    aoaoemoji
        28
    aoaoemoji  
       2023-05-01 07:00:16 +08:00 via Android
    老铁你这项目非常好,为啥不整个 vercel 一键部署啊😁省心还省钱
    chris555
        29
    chris555  
       2023-05-01 15:00:48 +08:00
    这个厉害了
    JusticeIsHere
        30
    JusticeIsHere  
    OP
       2023-05-01 22:04:37 +08:00
    @aoaoemoji Vercel 只适合纯前端项目和后端很简单的项目。
    关于   ·   帮助文档   ·   博客   ·   API   ·   FAQ   ·   实用小工具   ·   5367 人在线   最高记录 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 41ms · UTC 09:33 · PVG 17:33 · LAX 01:33 · JFK 04:33
    Developed with CodeLauncher
    ♥ Do have faith in what you're doing.