V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
V2EX 提问指南
coolair
V2EX  ›  问与答

A 卡能炼丹吗?

  •  
  •   coolair · 2023-04-21 10:55:56 +08:00 · 2899 次点击
    这是一个创建于 611 天前的主题,其中的信息可能已经有所发展或是发生改变。
    N 卡太贵,新出的 4070 系列价格虚高……
    14 条回复    2023-04-23 09:37:39 +08:00
    ldyisbest
        1
    ldyisbest  
       2023-04-21 11:07:18 +08:00
    conhost
        2
    conhost  
       2023-04-21 11:08:52 +08:00   ❤️ 1
    你要问能不能?那肯定是能,torch 支持 ROCM ,但是里面有多少坑,你得自己试一试。如果有结果了,cue 我一下。
    westoy
        3
    westoy  
       2023-04-21 11:11:25 +08:00
    生态怎么办? 填坑的人工成本可比卡贵多了

    之前 30 系刚出那会儿 torch 和 tensorflow 对新版的 cuda 库支持不好, 期间很多炼丹佬都是直接去买 20 系的, 搞的一些丐的 3090 破发跌到一万内, 还好有矿佬接盘给老黄盘活了流水
    neteroster
        4
    neteroster  
       2023-04-21 11:17:44 +08:00 via Android
    别给自己挖坑,到时候省下的那点钱可能相对多耗费的时间和精力不值一提。
    bridge255
        5
    bridge255  
       2023-04-21 11:24:23 +08:00   ❤️ 1
    如果 ai 画图的话 可以。我用我手头的 5700 跑 Stable-Diffusion 是能画的(能推理,训练不太行)。踩坑记录可以去我博客看看: https://ryan255.ltd/tag/stable-diffusion/

    目前遇到的比较多的问题是很多不错的插件都是基于 cuda 写的,所以 a 卡没有,很多优秀的插件无法兼容,这个无解。出图效率玩玩而已还能接受,真打算大规模出图或者训练还是老老实实买 4070 、4090
    formant
        6
    formant  
       2023-04-21 11:25:38 +08:00
    谁有那闲工夫。。。这不是扯淡呢
    Juszoe
        7
    Juszoe  
       2023-04-21 11:44:29 +08:00
    我只能说,欢迎给 A 卡生态添砖加瓦
    alne
        8
    alne  
       2023-04-21 11:52:27 +08:00
    可,但坑多
    deorth
        9
    deorth  
       2023-04-21 14:43:50 +08:00 via Android
    rocm 声称要支持 windows 了,pytorch 2.0 也号称是解绑硬件平台。只能说是日子一天天好起来?
    paradoxie
        10
    paradoxie  
       2023-04-21 15:13:05 +08:00
    A 卡的黑果还行,能玩
    SonnyBoi
        11
    SonnyBoi  
       2023-04-21 17:26:14 +08:00
    半年前买新电脑我也问过哈哈哈,最后还是老实买了 3070 ,如果你是个人用户确实 N 卡体验好很多,而且就算是连集群,大部分也是 N 卡,在自己电脑上花时间得到的经验和知识可以比较轻松的转移。
    ysc3839
        12
    ysc3839  
       2023-04-21 17:45:26 +08:00 via Android
    得看人工成本高还是硬件成本高。
    目前我听说用 ROCm 的都是些大厂,为了降低硬件成本选择 A 卡,人家有顶级研发团队,不管怎样人工成本都是减不了的,所以就让他们的团队适配 ROCm 。
    如果是个人用户,可能自己研究解决 bug 会消耗更多时间精力,得不偿失。
    ysc3839
        13
    ysc3839  
       2023-04-21 17:50:48 +08:00 via Android
    @bridge255 这个是 DirectML 的,用 ROCm 的话应该是可以训练的,PyTorch 官方支持 ROCm ,许多使用 PyTorch 的项目也没用到 CUDA 独有的功能,用的都是 PyTorch 提供的功能,那理论上来说就能兼容。
    bridge255
        14
    bridge255  
       2023-04-23 09:37:39 +08:00
    @ysc3839 你说的没错。但我补充一点,就是说我主要还是在 win 上工作生活,目前 ROCm 还不支持 win 。不过官方消息马上要支持了,到时候上了再踩踩坑
    关于   ·   帮助文档   ·   博客   ·   API   ·   FAQ   ·   实用小工具   ·   5967 人在线   最高记录 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 26ms · UTC 02:37 · PVG 10:37 · LAX 18:37 · JFK 21:37
    Developed with CodeLauncher
    ♥ Do have faith in what you're doing.