V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
RonniePolaer
V2EX  ›  程序员

求推荐企业现有已成案例的大模型+知识库的配合

  •  
  •   RonniePolaer · 8 天前 · 853 次点击
    10 条回复    2024-10-30 20:28:57 +08:00
    dddd1919
        1
    dddd1919  
       8 天前
    要为来年 KPI 编故事了
    zwyyy
        2
    zwyyy  
       7 天前
    同问,我现在也有这样的需求,同时还需要支持 workflow
    naixiaoxin
        3
    naixiaoxin  
       7 天前
    dify?
    yijihu
        4
    yijihu  
       7 天前
    用 bisheng 吧,目前看过来也就 bisheng 最合适了
    TonyG
        5
    TonyG  
       7 天前
    目前在企业普及私有模型还是个悖论,单机能跑起来最新 30b 以上模型的成本就已经不低了,小公司肯定不会考虑,大公司又存在并发的情况单机跑一个模型肯定是不够的。上云存在信息外泄和长期被绑架持续消费风险,所以怎么看都还很难在企业内通过简单的堆砌数据和模型来解决实际问题。现在唯一可行的方向我觉着就是低端模型(服务器成本低)+微调+大比例的系统设计和编程,这样才能尽量多场景的让模型产生实际作用,否则仅仅提供个通用聊天机器人意义也不是很大。
    RonniePolaer
        6
    RonniePolaer  
    OP
       4 天前
    有相关 workflow 的教程和调教教程吗
    RonniePolaer
        7
    RonniePolaer  
    OP
       4 天前
    需要有个完整的解决方案,市面上有这种案例吗
    RonniePolaer
        8
    RonniePolaer  
    OP
       4 天前
    @yijihu 看着好像没 fastgpt 的 ui 好
    RonniePolaer
        9
    RonniePolaer  
    OP
       3 天前
    @TonyG 有更好的私有化部署的案例吗?我们应该算是低端模型+私有 xwiki 知识库+pg 库
    TonyG
        10
    TonyG  
       2 天前
    @RonniePolaer no idea ,我觉着现在还为时尚早
    关于   ·   帮助文档   ·   博客   ·   API   ·   FAQ   ·   实用小工具   ·   2752 人在线   最高记录 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 79ms · UTC 14:34 · PVG 22:34 · LAX 07:34 · JFK 10:34
    Developed with CodeLauncher
    ♥ Do have faith in what you're doing.