V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
AIInception
V2EX  ›  OpenAI

智谱 AI 发布 Batch API

  •  
  •   AIInception · 31 天前 · 885 次点击

    智谱 AI 的开放平台已推出全新的 Batch API ,专为无需即时反馈并需使用大模型处理大量请求的场景设计。

    通过该服务,开发者可以通过文件提交大量任务,不仅价格降低 50%、无并发限制,还能在 24 小时内完成任务处理。

    Batch API 的典型应用场景包括:

    • 文章分类:为大量文章、帖子或产品描述添加分类标签。
    • 情感分析:评估客户反馈、社交媒体帖子和商品评价的情感倾向。
    • 文档处理:为大量文档生成摘要、提炼关键信息或进行翻译。
    • 信息提取:从文本数据中识别和抽取关键内容。

    支持的 Batch API 的模型以及价格

    GLM-4:价格为 0.05 元 / 千 tokens GLM-3-Turbo:价格为 0.0005 元 / 千 tokens

    立即调用: https://open.bigmodel.cn/dev/howuse/batchapi

    7 条回复    2024-05-22 21:48:48 +08:00
    AIInception
        1
    AIInception  
    OP
       31 天前
    使用 RAG-GPT 集成智谱 AI 快速搭建 OpenAI Cookbook 智能客服

    https://blog.csdn.net/zhuyingxiao/article/details/139069567
    lchynn
        2
    lchynn  
       31 天前
    折算下来每 M Token 要 50 元。
    性价比并不好, 不如 混元和 deepseek , 就是对比 moonshot ,minimax 等也算贵的。
    大部分 RAG 场景, 并不需要很高的推理能力。只有编程和复杂任务规划智能体才需要接近 GPT4 水平的 GLM4 ;
    而 GLM3 能力又和弱智的文心一眼 ERINE 3 差不多。
    AIInception
        3
    AIInception  
    OP
       31 天前
    DeepSeek 目前确实是性价比最高的
    chuck1in
        4
    chuck1in  
       31 天前
    关键现在很多翻译软件不支持 智谱 AI 是个大问题的感觉。
    AIInception
        5
    AIInception  
    OP
       31 天前
    如果能正常访问 OpenAI ,使用 GPT 系列的模型作为 LLM 底座,整体效果还是更有保障一些。
    neptuno
        6
    neptuno  
       30 天前 via iPhone
    国内的 ai ,如果兼容 openai 的接口,会加分很多
    AIInception
        7
    AIInception  
    OP
       30 天前
    智谱、DeepSeek 、Kimi ,它们现在都有兼容 OpenAI 的 API 。
    关于   ·   帮助文档   ·   博客   ·   API   ·   FAQ   ·   实用小工具   ·   916 人在线   最高记录 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 23ms · UTC 20:47 · PVG 04:47 · LAX 13:47 · JFK 16:47
    Developed with CodeLauncher
    ♥ Do have faith in what you're doing.