@Yaavi 🦀，bro ，我 2019 年的 lp i5 ，根本吃不动。讲真，还不如用 3d gaussian splatting 。李飞飞那个模型还能自由移动摄像头。

@wktline 你自己看看你所在的城市的 boss 嘛。

2026 年的 LLM ，就算是 qwen3.5 9B ，也是比 v 站 99.999%的人综合实力高。它比的是顶级（若干个领域的顶级博士集合）差，不是比只有单领域本科的大众差。


自己了解下那些 LLM pk 用的 benchmark ，大部分人，估计拿 1 分的能力都没有。

3 ～ 6K java ，甚至不如 26 块一个小时的富士康流水线。

卡到爆，用李飞飞到那个世界模型，不比这个强一万倍？

@catazshadow 经过一段时间的深度使用之后，我还是回到了 muse glimmer 30B 。无他，qwen3.8 27B Q8 如果 kvcache Q8 ，在 10w context 的时候，decode 能掉到 2tok/s 以下，如果还开了推理，基本上就是没法用了。

muse glimmer 30B Q8 kvcache Q8 ，在 10w context 的时候，开了推理，decode 还能稳定在 10tok/s 。
牺牲一点性能，保持长 context 还能正常使用，如果 muse glimmer 深度上搞到 60+，后训练加强一点，以这个速度，就是这个领域的 top1 了。

给你们一点惊喜。

gpt6 实现了 隐空间的循环推理，也就是说，推理的时候没有显示地输出 token 生成文字做推理。整个过程，就是黑盒。但是，token 费用，还是照收不误。

至于怎么计费的，惊不惊喜，意不意外？😂

🦀，bro 。

astra 真 agi 。

鹈鹕的腿，是正关节。

sol 画成了反关节。

关键是，现在外包都是香饽饽。

@rencoo 🦀，bro 。但凡是不能把复杂问题简单化，喜欢把简单问题复杂化的，这种人要绕开，一句话都不要信，也不用跟他们沟通。

可能会让你尝到一点甜头，但要付出更大代价。

@rencoo 见人太少了。这种一眼不长久。

qwen3.8 27B 263k context Q8 kvcache no think ，大概在 128k 不到的长度，decode 就<2tok/s 。如果 kv cache Q4 能在 200k 左右，还有 3 tok/s ，但是会出现遗忘现象，比如一开始的规则后续就不再遵循。

我发现 muse glimmer 30B 在同样的 context 下，还能稳定 9tok/s 。muse glimmer 30B 的 benchmark ，其实都是在后训练得到的场景里不如 qwen3.8 27B,不过也是超过了 qwen3.6 27B 。

所以，263k context ，kvcache 必然要 Q8 。

我选 muse glimmer 30B 。但凡它要是能在后训练上再进步一点，不说超越 qwen3.8 27B , 只要能打平，就是当前最适合的。

这波 LLM ，完全没有商汤的声音，当年那么硬气的。现在彻底熄火。

我有一个超越时代的 agent 理论还在完善，并且能工程实践。二者互为支撑。

同时满足 temporal cogation & initiative 。

评论区一转话锋了，放一年前 都是劝争取 2N 的。

@zzutmebwd 🦀，bro 。

不用参考了。我自己长期处于 decode < 10 tok/s 的环境。看你这个只让我更伤心，💔，😭

@wises 喷错了，我掌嘴我自己，对不起，bro 。😂

@wises 不用再回复我了，你什么段位，什么德行，我一清二楚了，已经进入我的 block ，不再见。

@wises 那你适合花钱搞，这种免费的满足不了你的需求。

不是 searxng 不行，是你的深度需求，在 searxng 上很难免费实现。你应该在 主题，就附上自己的需求，而不是含糊不清。