skai
V2EX  ›  OpenAI

codex++ 都有中转聚合了

  •  
  •   skai · 7 days ago via iPhone · 1787 views
    hermes 有类似的 中转聚合吗

    有比 LiteLLM 更优解吗
    2 replies    2026-07-13 10:54:42 +08:00
    AlexaZhou
        1
    AlexaZhou  
       7 days ago via iPhone
    你说的是 API 网关吗?我写了一个,可以支持协议转换,跟请求可视化分析,还有缓存优化。比 LiteLLM 之类要好用很多,希望对你有用

    https://github.com/alexazhou/gt_ai_gateway
    Fitz
        2
    Fitz  
       7 days ago
    About   ·   Help   ·   Advertise   ·   Blog   ·   API   ·   FAQ   ·   Solana   ·   5646 Online   Highest 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 48ms · UTC 07:38 · PVG 15:38 · LAX 00:38 · JFK 03:38
    ♥ Do have faith in what you're doing.