企业使用 M3 Ultra 顶部署 DeepSeek-R1 可以吗？

V2EX = way to explore

V2EX 是一个关于分享和探索的地方

现在注册

已注册用户请登录

• 请不要在回答技术问题时复制粘贴 AI 生成的内容

企业使用 M3 Ultra 顶部署 DeepSeek-R1 可以吗？能支撑企业正常使用么？

M3 Ultra

DeepSeek-R1

deployment

2 条回复

jifengg

13 天前

搜索到一篇文章写到：

“国外一家专注于在不同设备上运行大模型的 EXO Labs 在 X 平台表示，「两台配备 512GB 内存（总价 18,000 美元）的 M3 Ultra Mac Studio ，通过 Thunderbolt 5 连接后，可以以 20 tokens/秒的速度运行满血的 DeepSeek R1 （ 8-bit ）」。”

20tokens/秒，看你企业多少人用了。

zsvc

13 天前

一台也能跑么？