cj323 最近的时间轴更新 cj323 最近的时间轴更新 |
cj323V2EX 第 668324 号会员，加入于 2023-12-25 03:09:16 +08:00今日活跃度排名 30 |
| 需要一个尊重上下文的输入法 输入法 • cj323 • 22 小时 32 分钟前 • 最后回复来自 tamakiui | 13 |
| 分享我用包浆了的 MacBook 电池健康状态 MacBook • cj323 • 10 天前 • 最后回复来自 mirrorpen | 6 |
| 安卓使用一周后感受 Android • cj323 • 9 天前 • 最后回复来自 churchmice | 59 |
| 为什么中文网页链接喜欢在新窗口打开 问与答 • cj323 • 17 天前 • 最后回复来自 bearbest | 31 |
| 三星 Z Fold 7 vs 谷歌 Pixel 10 Pro Fold 上手体验分享 分享发现 • cj323 • 11 天前 • 最后回复来自 pdafree | 1 |
| 需要中文字体排版的书籍或网站 字体排印 • cj323 • 38 天前 • 最后回复来自 C0gHam | 4 |
| 需要一个 macOS 软件 macOS • cj323 • 38 天前 • 最后回复来自 loganovo | 10 |
| PHP 8.5 加入了 pipe 语法 PHP • cj323 • 71 天前 • 最后回复来自 zjsxwc | 59 |
cj323 最近回复了
3 小时 11 分钟前 回复了 saleacy 创建的主题 › 生活 › 我觉得现在的市民热线和信访部门就是摆设 |
自己没打过，但是家里二十年前就告诉我打举报是没用的……这件事我一直记在心里，虽然长大后避免了一些可能的时间浪费，但是还是挺无奈的。
11 小时 27 分钟前 回复了 newInterface 创建的主题 › 问与答 › 胖东来的老板是不是从未来穿越回来的 |
咱们在外网能发点背景吗，谢谢！看了半天不知道大家在讨论的什么。
9 天前 回复了 cj323 创建的主题 › 输入法 › 需要一个尊重上下文的输入法 |
我抛砖引玉一个实现：
本地起一个模型。每次打字通过定制的输入法喂给 AI 选择过的文字，一次也就几 byte 。每次提示前通过已知信息重排选项。模型尽量小以缩小延迟，尽量向小 token 优化。再慢就缩小缓存/上下文长度，并只优化简体中文。现在简单的模型都能秒出结果了，就吐几个 token 应该能接近输入法输入频率了吧。
本地起一个模型。每次打字通过定制的输入法喂给 AI 选择过的文字，一次也就几 byte 。每次提示前通过已知信息重排选项。模型尽量小以缩小延迟，尽量向小 token 优化。再慢就缩小缓存/上下文长度，并只优化简体中文。现在简单的模型都能秒出结果了，就吐几个 token 应该能接近输入法输入频率了吧。
9 天前 回复了 cj323 创建的主题 › 输入法 › 需要一个尊重上下文的输入法 |
@lswlray #1 不是有不有的问题，是有提示但是不是依赖上下文重新排列优先级。自带输入法也有吕蒙，但是优先级没有被上下文影响。依赖上下文的输入法应该是打了充电器优先提示绿盟；打过装修优先提示铝门……
@xinbinhan #39 难不难用比较主观。但是客观学习成本肯定是比较高的，其中一大部分是源自作者飞一样的更新速度（感谢作者）。这对于喜欢折腾，追求完美的人不一定是坏事，因为更新快往往意味着 bug 修得及时；新东西支持得快；配置上能重构的地方也会变得更合理。但这也会带来麻烦的地方，那就是得跟得上作者的节奏。举个例子，我一年前自己手搓的配置，现在已经有很多 deprecated 甚至 remove 了，具体体现在 log 里 warning 茫茫多。顺藤摸瓜到文档就发现这一年已经有了很大的改变，需要再次阅读再按照新的改/重搓。
@totoro625 #30 对，github 下的
@wu67 #8 singbox 确实有不少坑，我不会推荐给新手。我是之前鼓捣过所以学习成本低。另外我选择 singbox 一个重要原因是我也在 apple 生态里，singbox 的跨平台性我很看重。
@layxy #17 确实大，我开个抖音就用了 1.5G 内存，高德搜了一个地址又干一个多 G……
@MIUIOS 唉我这里选项很少，能上手的就谷歌三星。而谷歌硬件体验实在太下头也被排除了。
Select Language