V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
这是一个专门讨论 idea 的地方。

每个人的时间,资源是有限的,有的时候你或许能够想到很多 idea,但是由于现实的限制,却并不是所有的 idea 都能够成为现实。

那这个时候,不妨可以把那些 idea 分享出来,启发别人。
ChefIsAwesome
V2EX  ›  奇思妙想

github trending 上看到个叫 privateGPT(私人 GPT)的项目

  •  
  •   ChefIsAwesome · 2023-05-17 14:00:50 +08:00 · 3758 次点击
    这是一个创建于 540 天前的主题,其中的信息可能已经有所发展或是发生改变。

    https://github.com/imartinez/privateGPT

    你喂文档给他,它就能学习这些,然后像 chatGPT 那样回答相关的问题。

    个人知识库,资料库这个概念已经很久了。目前为止大家的做法就是笔记,思维导图什么的。搜索、整理起来麻烦,很多人用着用着就放弃了。如果用上面提的软件,按道理就解决了搜索问题了,效率能大大提高。

    再进一步,如果我是某个名人,把我平时写的资料,生成一个 ai ,收费使用。这是不是也是一个知识付费的好路子?

    18 条回复    2024-03-18 18:40:49 +08:00
    w468750
        1
    w468750  
       2023-05-17 14:10:56 +08:00
    感觉这里有点冲突,如果名人的资料不够高端和私有,那已经包含在 chatgpt 数据库里了,那为啥不直接问 chatgpt 。
    如果是高端私有型,人家只接私人高端咨询多舒服,没必要降低自己身价和逼格
    讨论正经知识付费,割韭菜不在此列
    Alan3
        2
    Alan3  
       2023-05-17 15:30:49 +08:00
    这个项目我部署下来试了一下,有点笨,不知道是不是模型的原因。 我丢给它一个 pdf 文档,问他文章的 title 是什么,他给我乱说了一通 funding 部分的内容。

    我觉得思路可行,如果你的资料足够重要。
    ccino
        3
    ccino  
       2023-05-17 15:32:24 +08:00
    先收藏,看看后续。
    pengpeng1
        4
    pengpeng1  
       2023-05-17 15:57:59 +08:00
    让我想到了国外一个明星卖了 AI 版本的自己陪聊,卖了很多很多钱
    ql562482472
        5
    ql562482472  
       2023-05-17 15:59:19 +08:00
    这个确实很不错 就是正确性需要调教一下 这个真的有需求的
    lx271896700
        6
    lx271896700  
       2023-05-17 16:14:51 +08:00
    牛逼,我正是我想要的
    LucasW
        7
    LucasW  
       2023-05-17 16:42:29 +08:00
    中文有支持吗
    f0rger
        8
    f0rger  
       2023-05-17 19:55:52 +08:00 via iPhone
    正确性还可以的话,可以私有化部署到公司内部,一些文档 faq 之类的估计帮助挺大的
    aqiu111
        9
    aqiu111  
       2023-05-17 20:05:56 +08:00 via iPhone
    可以试试 pandagpt
    vToExer
        10
    vToExer  
       2023-05-17 21:27:40 +08:00
    之前也想到 LLM 实际上是 Obsidian 的潜在竞品,或者换一种说法,笔记软件、个人知识库软件乃至于第二大脑的终极形态就是私人定制的大模型。已有笔记软件提供的双向链接和知识图谱只是语法糖,并不能充当真正的外置大脑,但 LLM 能做到

    刚想到的时候很兴奋,感觉发现了宇宙终极规律,终于不用折腾各种笔记软件了…结果查了下,发现有大佬二月份就提出这个想法了,甚至已经写了一本书叫《第二大脑》🤣
    fox0001
        11
    fox0001  
       2023-05-17 21:30:45 +08:00
    本地跑了下 privateGPT ,查询很吃内存……查询时飙上 10GB 内存后不够吃,就挂了……
    ChefIsAwesome
        12
    ChefIsAwesome  
    OP
       2023-05-18 07:59:30 +08:00
    @fox0001 学习慢,回答慢,内存占我十几个 G 。。我索性就写一句英文,让它学习。"Tom is a 10 years old boy." 就这一句它还不能回答。。
    fox0001
        13
    fox0001  
       2023-05-18 09:39:01 +08:00 via Android
    @ChefIsAwesome #12 昨天代码更新了,学习很快了,但是查询时内存占用超过 12GB ,且很慢。
    ashone07
        14
    ashone07  
       2023-05-18 10:39:00 +08:00
    这种模型本地跑还太早,在家用服务器部署 Web 端其实很不错
    coyoteer
        15
    coyoteer  
       2023-05-18 11:28:26 +08:00
    文档 GPT 肯定有搞头,现在用 gpt 不就是一般为了节省翻文档的时间
    azure2023us928
        16
    azure2023us928  
       2023-06-09 09:19:30 +08:00 via Android
    缺一个聊天窗口,用 vuejs 写一个应该不难。
    leo6668
        17
    leo6668  
       240 天前
    @vToExer 哈哈
    idblife
        18
    idblife  
       234 天前
    上传了一个几十 k 的文本,查询的时候竟然报 token 不足。。。
    Initial token count exceeds token limit
    关于   ·   帮助文档   ·   博客   ·   API   ·   FAQ   ·   实用小工具   ·   2991 人在线   最高记录 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 29ms · UTC 13:37 · PVG 21:37 · LAX 05:37 · JFK 08:37
    Developed with CodeLauncher
    ♥ Do have faith in what you're doing.