CatCode 最近的时间轴更新
CatCode

CatCode

不会撸猫的程序员不是好美工
V2EX 第 251317 号会员,加入于 2017-08-29 10:12:54 +08:00
今日活跃度排名 3138
Air M3 24G 能不能跑不量化的 7B 本地大模型推理?
  •  1   
    MacBook Air  •  CatCode  •  3 小时 42 分钟前  •  最后回复来自 mumbler
    13
    2024 年 国内大带宽廉价服务器有可选的吗?
    VPS  •  CatCode  •  74 天前  •  最后回复来自 limaofeng
    12
    国内双币信用卡办哪家好?
    信用卡  •  CatCode  •  136 天前  •  最后回复来自 yh7gdiaYW
    7
    2023 年, iOS 用什么输入法?
  •  2   
    iOS  •  CatCode  •  152 天前  •  最后回复来自 DJCNMHG
    117
    CatCode 最近回复了
    10 小时 30 分钟前
    回复了 CatCode 创建的主题 MacBook Air Air M3 24G 能不能跑不量化的 7B 本地大模型推理?
    @WuSiYu 得看数据类型吧。比如我曾在 20 系显卡上跑 7B 模型,发现 fp16 非量化比 int8 量化的快至少一倍,因为 20 系并没有原生支持 int8 ,而原生支持了 fp16 。
    13 小时 47 分钟前
    回复了 Lucoie 创建的主题 问与答 iPhone 怎么把粘贴板发送到 Windows 电脑
    3 天前
    回复了 imes 创建的主题 微信 微信会检查压缩包内文件,并自动退出
    @body007 不好意思,是我看错了。 刚刚去确认了一下,7z 格式才能加密文件名
    3 天前
    回复了 imes 创建的主题 微信 微信会检查压缩包内文件,并自动退出
    @body007 普通 zip 也可以选择“加密文件名”
    7 天前
    回复了 weijancc 创建的主题 程序员 时至今日, WSL 仍然难用
    "Windows 是最好的 Linux 发行版"你居然还真信了
    那我说"php 是最好的语言"
    12 天前
    回复了 lk960511 创建的主题 问与答 如何训练出自己的大语言模型?
    @zhilincom 搭建和训练不是一回事 甚至微调和训练都不是一回事

    @stinkytofu 不说显卡,训练的数据哪儿来都是问题
    17.88w
    17 天前
    回复了 garywill 创建的主题 Linux 使用 Ubuntu Linux Live CD 操作导致硬盘分区丢失
    @busier chkdsk 速度特别慢,但 explorer 里面右键属性里的检查就很快 不知道有什么区别
    @twl007 这评测里的 6 小时续航,跟 macbook 怎么比啊
    关于   ·   帮助文档   ·   博客   ·   API   ·   FAQ   ·   我们的愿景   ·   实用小工具   ·   1093 人在线   最高记录 6543   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 25ms · UTC 18:55 · PVG 02:55 · LAX 11:55 · JFK 14:55
    Developed with CodeLauncher
    ♥ Do have faith in what you're doing.