V2EX = way to explore
V2EX 是一个关于分享和探索的地方
Sign Up Now
For Existing Member  Sign In
V2EX  ›  davidyin  ›  全部回复第 10 页 / 共 166 页
回复总数  3312
1 ... 6  7  8  9  10  11  12  13  14  15 ... 166  
5 月 12 日
回复了 davidyin 创建的主题 Local LLM 想折腾一个 AI 主机,请行家出手
原先的想法就是能当编程助手,能做一些重构,改善我写的那些 PHP 代码。能力相当于 kiro 订阅里面的 coder 智能体,因为我也就用到这些。而且是单人使用。

问了 copilot ,它认为,14B 的模型就差不多,比如 Qwen2.5 coder 14B 。

跑这个模型,12GB 显卡,可以用 q4 量化版本;若是 16GB 显卡,可以跑 q5 版本。
5 月 11 日
回复了 miku999 创建的主题 健康 动态血糖仪和白米饭为主的饮食
@miku999
还有一种不浸泡的,把糙米和水一起冻起来,分成一份份的结冰,煮饭时取一份直接煮也行。
买个对讲机
5 月 11 日
回复了 miku999 创建的主题 健康 动态血糖仪和白米饭为主的饮食
糙米预先浸泡,可改善口感。

你都不吃肉,菜的吗?
5 月 11 日
回复了 coolrice1 创建的主题 职场话题 调查: 年龄 40+ 体制外的你靠什么生活
靠工资,靠投资,靠老子。
最后还是靠自己。
5 月 11 日
回复了 Ulduar 创建的主题 Blogger 大家的自建 Blog 都是用的什么域名?
.com, .net, 几个内网使用的是.win
5 月 11 日
回复了 davidyin 创建的主题 Local LLM 想折腾一个 AI 主机,请行家出手
@slowgen
先感谢劝退我的网友。

Mac 的事情,纯粹是我个人不喜欢。
的确对你提到的这些没概念,所以才想着能有些东西学习,总不能意念学习啊,所以想着自己动手。要用 API 或者订阅对于我还是很简单的,毕竟加拿大很方便。

我太太问我是要工作还是考虑玩。我的答复是,必须“军民两用”,游戏和工作相结合才更有意思啊。
5 月 11 日
回复了 davidyin 创建的主题 Local LLM 想折腾一个 AI 主机,请行家出手
没想着要同旗舰款比美,或者替换的意思。
目的只是辅助编程,能分析一下代码,做的东西又是很小的。
@Cheree
是低预算。你能给个建议配置吗?
5 月 10 日
回复了 davidyin 创建的主题 Local LLM 想折腾一个 AI 主机,请行家出手
@pxlxh

说了,我在意。自己的东西自己在意。
5 月 10 日
回复了 davidyin 创建的主题 Local LLM 想折腾一个 AI 主机,请行家出手
@drafter
所以可行,就是慢。对吗
5 月 10 日
回复了 davidyin 创建的主题 Local LLM 想折腾一个 AI 主机,请行家出手
Gemini 得到的。
我想还是问问活人更可靠,毕竟这里高手多。
5 月 10 日
回复了 davidyin 创建的主题 Local LLM 想折腾一个 AI 主机,请行家出手
@huaweii

这个配置就是问的 chatgpt, copilot 和
5 月 10 日
回复了 royalknight 创建的主题 生活 观帖有感,多少钱才能躺平
要退休或者躺平,其实丰俭有由人的。
量出为入,知道自己每月每年的开销大约多少,赚的够了就行。
一个人能睡的地方也就一张床。
5 月 10 日
回复了 davidyin 创建的主题 Local LLM 想折腾一个 AI 主机,请行家出手
@whusnoopy
目前的预算在两千美元,再多就感觉自己不配用这么贵的东西了。




@smlcgx
电费的话,应该不用二十四小时开机的话,还好吧。之前用过 r710 服务器,玩了一年,觉得厌了就出手了。
5 月 10 日
回复了 davidyin 创建的主题 Local LLM 想折腾一个 AI 主机,请行家出手
诸位快把我劝退了。


@zzutmebwd
没用过国产的。也只用过 kiro 订阅的几种。

@bzw875
不训练,只是推理。


@restkhz
你的经验非常有用,谢谢这么详细的回复。那就是 16g 显卡还是可以用用的意思喽?

@2000wcw
别这样,我很听劝的。本来也不是用来谋生,只是爱好者。


@frankies
也不是那么洁癖,主要担心一不小心把什麽密钥啊,API 溜出去。

@cin
这个建议好,我去试试。

@tcper
玩游戏也想过,不过我的 Xbox series x 也刚买不久。
5 月 10 日
回复了 davidyin 创建的主题 Local LLM 想折腾一个 AI 主机,请行家出手
@luodan
大显存重要,GPU 级别低一点,问题不大?
我猜老板就能直接指点 ui 。
以前看女儿去比赛,到重要场次都是两个裁判。
球员自己也会记得比分和发球。
5 月 10 日
回复了 davidyin 创建的主题 Local LLM 想折腾一个 AI 主机,请行家出手
@Livid
这个超出预算了。就我的使用情况,估计太大才小用了。


@AastroLula
订阅过 kiro 的那些模型。挺好用,只是不想把自己丑陋的代码上传上去,才想着全部在本地。
是啊,配件涨价太多。的确有些下不去手。


@ntedshen
Intel CPU 和 DDR5 是也不是一定,你有好的建议欢迎提出来。

@devzhangyu
谢谢推荐,我去看看。
5 月 10 日
回复了 davidyin 创建的主题 Local LLM 想折腾一个 AI 主机,请行家出手
现在有个初步的配置清单:
RTX 4070 SUPER 12GB
Intel i5 14600K
Asus TUF B760
DDR5 32GB(2*16gb)
SSD 1TBx2
看看合适吗?
1 ... 6  7  8  9  10  11  12  13  14  15 ... 166  
About   ·   Help   ·   Advertise   ·   Blog   ·   API   ·   FAQ   ·   Solana   ·   2647 Online   Highest 6679   ·     Select Language
创意工作者们的社区
World is powered by solitude
VERSION: 3.9.8.5 · 44ms · UTC 11:37 · PVG 19:37 · LAX 04:37 · JFK 07:37
♥ Do have faith in what you're doing.