ShadowPower 最近的时间轴更新
ShadowPower

ShadowPower

V2EX 第 167153 号会员,加入于 2016-04-08 00:38:28 +08:00
体验了 Qwen2.5 Coder 32B 之后,我觉得本地 LLM 能用了
  •  1   
    Local LLM  •  ShadowPower  •  50 天前  •  最后回复来自 yanyuechuixue
    98
    Vision Pro 实际体验
    Apple  •  ShadowPower  •  158 天前  •  最后回复来自 ShadowPower
    53
    请问这个 bug 要重启哪个进程才能解决
    macOS  •  ShadowPower  •  258 天前  •  最后回复来自 craiiz
    3
    编译到 ARM 指令的复杂度比编译到 x86 更低吗?
    程序员  •  ShadowPower  •  286 天前  •  最后回复来自 elechi
    10
    Mac 平台有类似 Sandboxie 的软件吗?
    Apple  •  ShadowPower  •  287 天前  •  最后回复来自 NavilleZhang
    7
    求推荐 Windows 下的图片查看器
  •  1   
    Windows  •  ShadowPower  •  2023-11-30 18:48:10 PM  •  最后回复来自 lucacham
    58
    我发现大多数第三方 Android ROM 默认没有启用 ZRAM
    Android  •  ShadowPower  •  2023-10-07 20:27:51 PM  •  最后回复来自 ShadowPower
    23
    什么样的用户会需要新款 Mac Pro?
    Apple  •  ShadowPower  •  2023-06-06 21:13:32 PM  •  最后回复来自 Ga2en
    28
    我发现高通骁龙 8Gen2 的核显都支持了光追
    Android  •  ShadowPower  •  2023-01-28 10:34:00 AM  •  最后回复来自 jklove123bai
    31
    ShadowPower 最近回复了
    这个帖子下面的大多数回答,其实是错的……

    系统自身的缓存并不会算在某个进程上面,因为它们都是打开过然后又被关闭的程序或者文件。在资源监视器的“已缓存文件”一栏能看到这部分的大小。

    如果是软件内部自己实现的缓存,那并不会区分 macOS 还是 Windows 。在任何一个系统上,看起来都是“很吃内存”,因为操作系统无法得知这部分内存用于何种用途,也不会主动去回收它们。

    “内存”列显示的内存,其实也不是进程真正占用多少内存。比如这个例子:


    我加载了一个 2GB 的模型,实际上也需要占用 2GB 物理内存空间作为显存使用,但是“内存”列并不会显示出来。
    而且,如果进程的大部分内存不活跃而被压缩,那么“实际内存”这一列其实能显示更小的数值。
    这一列代表“真正在物理内存里占用的大小”,反而更接近 Windows 任务管理器中的含义。

    而 macOS 的“内存”在 Windows 任务管理器里,比较相似的属性是“提交大小”。


    现代的操作系统都会用空闲内存作为缓存使用,并没有所谓“macOS 相比起来会尽可能多用内存”的特性。如果你看到一个程序非常吃内存,那么有极大的可能,这个程序确实非常吃内存,而不是什么机制在起作用。该重启的时候就应该重启,不然硬盘寿命顶不住。
    @ttkanni 那是 Windows 9x 时代的设计了。Windows XP 就支持预读取了,Windows Vista 把它升级成了超级预读取( Superfetch ),并不会“只会占用必要的内存”
    有这些需求的用户,99.9% 在用 Windows
    2 天前
    回复了 xuangoer666 创建的主题 Apple M2 尚能饭否
    只用来上网办公的话,能用到坏
    @wisecrick 还顺便找到了这个压缩算法: https://github.com/g1mv/density
    @wisecrick 我大概看了一下,应该比 LZ4 更快但压缩率更低,和 ZSTD 的快速模式比应该也差不多
    2 天前
    回复了 lifehz 创建的主题 Apple mac air m1 能搭 deepseek v3 吗?
    @mumbler GPT-4 之后的模型 OpenAI 官方已经不公布参数量了,只是网友根据生成速度来推测的……
    只能说激活的参数量是 8B ,但是每次输出时激活的是模型中不同部分的 8B 。

    就像 DeepSeek V3 的激活参数量有 32B ,而整个模型有 671B 一样。
    3 天前
    回复了 LZYMichael 创建的主题 程序员 我们将使用母语编程
    我想写一个高质量的,易用的图片转像素画工具,至今还不能用 LLM 写出来
    换了之后估计会发现 iPhone 其实比安卓旗舰更卡,因为自适应刷新率的缘故
    关于   ·   帮助文档   ·   博客   ·   API   ·   FAQ   ·   实用小工具   ·   3513 人在线   最高记录 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 22ms · UTC 00:08 · PVG 08:08 · LAX 16:08 · JFK 19:08
    Developed with CodeLauncher
    ♥ Do have faith in what you're doing.