V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
so2back
V2EX  ›  问与答

请问下 github 上有没有哪个 Python 项目使用了 langchain 对接目前市面上所有的大模型的

  •  
  •   so2back · 3 天前 · 1074 次点击
    之前没写过 python ,现在领导指定框架使用 langchain ,要对接市面上多种大模型实现对话能力,当然还有业务上的一些东西。
    我的想法是在 github 上找一个有完整对话功能实现的 python 项目下来学习学习顺便改改,但是上边的项目好像都很大了,对我来说要剥离出来不容易。
    有没有 v 友看过一些比较简易或者只有对话功能的项目,分享一下
    第 1 条附言  ·  3 天前
    看到好几个 v 友在嫌弃 langchain ,如果不限制 langchain 的话,有没有什么简单点的 python 项目可以学习学习的,主要想看下对接多种模型的对话功能实现,不然只能用 cursor 一点一点写了
    14 条回复    2025-03-28 16:42:18 +08:00
    kerb15
        1
    kerb15  
       3 天前
    使用 langchain ,扣 5 分
    so2back
        2
    so2back  
    OP
       3 天前
    @kerb15 #1 哈哈哈哈没办法,领导是不懂的,我也不懂没法给建议,他就是听到这个可以就用这个,无奈
    shen13176101
        3
    shen13176101  
       3 天前
    看到 langchain 心里一惊,想着那么垃圾的东西也有人用。再次确定后发现我们公司付费用的叫 LangChatPro 。
    EdwardXia
        4
    EdwardXia  
       3 天前
    应该是用 langgraph 吧?
    supergeek1
        5
    supergeek1  
       3 天前
    langchain 本身就支持各种模型,可以看 chat_models 模块,还有现在大模型的参数基本都是一致的,有 one-api 、new-api 这种模型 api 集成平台,可以接入市面上几乎所有模型
    dearmymy
        6
    dearmymy  
       3 天前
    现在用 pydantic-ai 感觉比较轻量点
    harlen
        7
    harlen  
       3 天前
    大模型 restful API 几乎都是兼容的,只有 base API 的路径名字不一样,你只需要用 Python 定义个字典,写上 base url 和模型别名就可以了,
    t41372
        8
    t41372  
       3 天前 via Android
    用 Python 的直接用 open ai 的 SDK 就行,绝大多数的大模型后端都支持 openai 的 sdk ,支持同一套标准,模型名字 base url 和 API key 一改就能无缝衔接。这包括什么 OpenAI, Gemini, deepseek, 智谱, 硅基流动,还有本地的推理引擎,比如 vllm ,ollama ,llamacpp 之类的。

    单纯的与 llm 对话一个几十行一百行的 Python 单文件就能实现,一般不会单独写成项目,你上网搜 openai 的相关教程可能能找的到,或是直接让 ai 给你写个案例代码。如果你不熟悉 Python 记得顺便看一下包管理器,依赖管理,虚拟环境之类的东西。2025 年这套东西可以用 uv 解决,不过 ai 可能还不熟悉最新版本的 uv 。

    纯对话的最小代码我没有,不过之前写过一个 gist ,向 LLM 提问 1000 次,让他生成随机数,但生成 0 的概率是 90%,运行结果是跑 1000 次之后所有的结果都是 0 (?)。62 行,配置一改就能换到其他大模型去。

    https://gist.github.com/t41372/84f250d2ae3567332fc2b97ed4f868a8

    关于 langchain ,我不推荐新手用 langchain ,他会让你的生活很痛苦。
    darksword21
        9
    darksword21  
       3 天前 via iPhone
    用这个还不如直接用 python 对接 sdk 或者 api
    so2back
        10
    so2back  
    OP
       3 天前
    @t41372 #8 好的,谢谢我看看,其实也不一定要用 langchain ,看这么多人嫌弃我也知道肯定不是最优了哈哈哈
    litchinn
        11
    litchinn  
       3 天前
    好奇 langchain 怎么了,很久没关注了,我记得之前接触的时候 langchain 还是应用开发的首选
    so2back
        12
    so2back  
    OP
       3 天前
    @litchinn #11 不知道耶,用过的 v 有都很嫌弃的样子,我还是直接选择 openai 了
    funky
        13
    funky  
       3 天前 via iPhone
    go 也有 langchain ,聚合所有模型不是客户端搞得,类似你少一个 openruter 的网关
    aeron
        14
    aeron  
       3 天前
    市面上的模型基本都提供 openai 接口格式的请求,所以可以直接用 openai 的 sdk ,改下 base_url 就行了。至于对接多种大模型,那是接口网关之类的东西应该干的事
    关于   ·   帮助文档   ·   博客   ·   API   ·   FAQ   ·   实用小工具   ·   1007 人在线   最高记录 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 22ms · UTC 19:27 · PVG 03:27 · LAX 12:27 · JFK 15:27
    Developed with CodeLauncher
    ♥ Do have faith in what you're doing.