 |
9yu🏢 Software Engineer V2EX 第 54671 号会员，加入于 2014-01-21 20:24:40 +08:001
 23  34  |
mayo_irl
mayo.rocks
Tokyo
mayocream
mayocream
9yu 最近回复了
7 天前 回复了 9yu 创建的主题 › 分享创造 › 用 Rust 写了一个跨平台 LLM 汉化漫画的工具 |
@kpprotector ☺️ 谢谢你
7 天前 回复了 9yu 创建的主题 › 分享创造 › 用 Rust 写了一个跨平台 LLM 汉化漫画的工具 |
@ZztGqk 其实几度删了 Tauri 最后又回到了 Tauri ，Slint 也尝试过但是还是 Tauri 做 GUI 最适合这个项目，Next.js 只是 setup 比较方便，倒是没有用到 vendor-lock 的功能。
9 天前 回复了 9yu 创建的主题 › 分享创造 › 用 Rust 写了一个跨平台 LLM 汉化漫画的工具 |
@WizardLeo 其实 SakuraLLM 官方说明了可以添加术语表： https://github.com/SakuraLLM/SakuraLLM#%E6%8E%A8%E7%90%86
目前 Koharu 是允许手动编辑译文，来进行修正的。术语表、或者是给 LLM 提供更多 Context 有打算做，但是 LLM 听不听话就不知道了……
但是这个功能一定会做的！
目前 Koharu 是允许手动编辑译文，来进行修正的。术语表、或者是给 LLM 提供更多 Context 有打算做，但是 LLM 听不听话就不知道了……
但是这个功能一定会做的！
9 天前 回复了 9yu 创建的主题 › 分享创造 › 用 Rust 写了一个跨平台 LLM 汉化漫画的工具 |
@yianing 最近刚从 ONNX 迁移到 candle ，我自己实现的 LaMa 模型感觉哪里有问题……
这个问题其实挺麻烦的，manga-image-translator 用的是 Pytorch 的实现，自带了 fft 的 ops ，而 candle 里面根本没有 fft 。
我目前给 candle 的依赖库 cudarc 提了一个 PR 来支持 cufft： https://github.com/chelsea0x3b/cudarc/pull/500
Koharu 用的是我 fork 的 candle ，现在已经用到 cufft 快了一点点了。
除了实现不高效，另一点是我用 LaMa 整张图片处理的，没有切片，这个可能导致速度很慢。
小声说我用的 5090 跑一张图只要几秒钟，所以我没注意到。
用 candle 来实现模型优点是自己可以调整模型的结构，所以一定可以优化得更快。最近我也在尝试向 candle 贡献代码，希望提升整体的性能。
这个问题其实挺麻烦的，manga-image-translator 用的是 Pytorch 的实现，自带了 fft 的 ops ，而 candle 里面根本没有 fft 。
我目前给 candle 的依赖库 cudarc 提了一个 PR 来支持 cufft： https://github.com/chelsea0x3b/cudarc/pull/500
Koharu 用的是我 fork 的 candle ，现在已经用到 cufft 快了一点点了。
除了实现不高效，另一点是我用 LaMa 整张图片处理的，没有切片，这个可能导致速度很慢。
小声说我用的 5090 跑一张图只要几秒钟，所以我没注意到。
用 candle 来实现模型优点是自己可以调整模型的结构，所以一定可以优化得更快。最近我也在尝试向 candle 贡献代码，希望提升整体的性能。
9 天前 回复了 9yu 创建的主题 › 分享创造 › 用 Rust 写了一个跨平台 LLM 汉化漫画的工具 |
@liuliuliuliu TvT velopack 还不支持安装选项，安装的时候只能蠢蠢的丢到 data local 里面去，portable 版会下载到当前目录（但是代码有点小问题，还没修好，已经在修了！）。
主要是 CUDA 和 cuDNN 特别大，N 厂没有自带，所以要开发者来 bundle……其实程序本身特别小。
主要是 CUDA 和 cuDNN 特别大，N 厂没有自带，所以要开发者来 bundle……其实程序本身特别小。
10 天前 回复了 9yu 创建的主题 › 分享创造 › 用 Rust 写了一个跨平台 LLM 汉化漫画的工具 |
没什么自信，目标是能有 10 个用户……> <
238 天前 回复了 9yu 创建的主题 › 分享创造 › 我用 Rust 写了一个日漫汉化工具 |
@qinghuazs 因为基本上没看过……但是想学习韩语，韩国画师好多。
238 天前 回复了 9yu 创建的主题 › 分享创造 › 我用 Rust 写了一个日漫汉化工具 |
@neteroster
@RedNax
1L 分享的 manga-image-translator 这个项目其实可以全自动化，但是是 Python 写的，但是思路是差不多的：
Detection / segment -> OCR -> LLM translate -> SD inpaint
Koharu 还差 inpaint ，我打算这周加上去。
Python 的程序感觉不太容易分发，Rust 写的不需要其他任何依赖，方便一些。
@RedNax
1L 分享的 manga-image-translator 这个项目其实可以全自动化，但是是 Python 写的，但是思路是差不多的：
Detection / segment -> OCR -> LLM translate -> SD inpaint
Koharu 还差 inpaint ，我打算这周加上去。
Python 的程序感觉不太容易分发，Rust 写的不需要其他任何依赖，方便一些。
238 天前 回复了 9yu 创建的主题 › 分享创造 › 我用 Rust 写了一个日漫汉化工具 |
@yidinghe 现在手动把漫画图片喂给 ChatGPT / Claude 也可以达到这个效果，不过我暂时还没尝试集成进程序里；感觉可以试试！就是 API 费用可能有点贵。
333 天前 回复了 9yu 创建的主题 › 生活 › 2024: 离开上海并在东京转职到 Woven by Toyota 写 Rust |
@RiceMarch 新年快乐！（但是我真的是武汉人 :L
Select Language