ModerRAS

ModerRAS

V2EX 第 373001 号会员,加入于 2018-12-26 13:55:47 +08:00
根据 ModerRAS 的设置,主题列表只有在你登录之后才可查看
二手交易 相关的信息,包括已关闭的交易,不会被隐藏
ModerRAS 最近回复了
33 天前
回复了 BenchWidth 创建的主题 硬件 如何组装一台能跑大模型的机器。
一个显卡的话家用的也就同时跑一份模型,这种环境只可能是同时一个人用,你要同时 10 并发需要 10 个显卡。
低配环境可以用 amd 的 8845h ,等等应该就能出小主机了,配个大内存用他自己的 npu 跑就是,虽然不快但是胜在便宜,三四千一套。这种环境下你配个 96G 内存应该是能跑 llama 70b 的 int8 量化版本的。
其他环境家用不要考虑 70B ,那是 H100 干的活
33 天前
回复了 vopsoft 创建的主题 硬件 发现个配置合理的笔记 R7 8845H 32G 1T
薯条就是 7840hs 呗,差 6T
33 天前
回复了 akakidz 创建的主题 硬件 2024 年了,新房选购路由器求推荐
xdr5480 ,一个不够买俩,你的预算能买两个半
33 天前
回复了 Greendays 创建的主题 硬件 新出的移动平台的 NPU 有人测试过吗?
amd 的用他专用的 pytorch 或者 onnxruntime 就行,然后需要装一下 ipu 驱动,只能跑 int8 量化的模型
95 天前
回复了 inSpring 创建的主题 Python 大家最近新项目用什么 Web 框架?
blazor server+litedb
95 天前
回复了 wwwwfly 创建的主题 NAS 求推荐 wifi6 路由器?
只追求千兆一般就推荐 xdr5480 ,如果想要两个 2.5G 可以看看 xdr6088 ,要提速一口气拉到 10G 比较好吧,除非资金撑不住。160Mhz 的实际值没那么高的,2x2 天线协议速度也就 2402 ,实际用还得折半,也就个千兆,想啥呢。
obsidian ?可以导出 pdf
红魔就没啥广告(游戏模式里有一点,但是不是弹出式的,也不在表面),谷歌套件也很完整,就是系统不咋地
263 天前
回复了 Al0rid4l 创建的主题 程序员 求推荐虚拟机做开发环境的方案
要是 pve 直通 gpu 的话,可能玩游戏会有一些小 bug ,就像是一开麦就越来越卡之类的,玩游戏突然掉帧之类的,还得踩一下坑解决一下。
如果你用 gpu 主要是 cuda 之类的炼丹环境,win11 配 wsl2 其实就可以解决,效率可能低一点但是不会少很多,至少还有 90%多的性能。坑在有时候 wsl2 的虚拟机 CPU 会在你休眠唤醒之后莫名其妙一直满着。
关于   ·   帮助文档   ·   博客   ·   API   ·   FAQ   ·   我们的愿景   ·   实用小工具   ·   2698 人在线   最高记录 6543   ·     Select Language
创意工作者们的社区
World is powered by solitude
VERSION: 3.9.8.5 · 12ms · UTC 15:44 · PVG 23:44 · LAX 08:44 · JFK 11:44
Developed with CodeLauncher
♥ Do have faith in what you're doing.