用来翻译几页文档。后面应该还会要。不是提供在线服务,就是电脑上手动执行脚本。
开源的小 size 模型,担心翻译质量。大 size 模型,机器也跑不起来。只能指望在线的了。
翻译质量好的模型,好像就是 Gemini 和 ChatGPT 。
试了 Gemini api ,说是限制每分钟 60 ,但实际限得很死。我每次请求前加了 sleep 10 ,请求两次,就报 RESOURCE_EXHAUSTED 。
OpenAI 的 api ,没记错的话,是一次性赠送多少 token 。只怕不够用。
准备试试百度免费的 api 。
不知道有没有什么好开源程序,包装各大模型的 web 页面,提供接口?
看大家有没有什么好的解决方案。
1
ruidoBlanco 201 天前
deepinfra llama3 70b 可还行?
|
2
wencan OP @ruidoBlanco 这货怎么白嫖?原版 llama3 对中文支持不太好吧?
|
3
ruidoBlanco 201 天前
我记得注册就有一点点美刀,但是足够跑很多很多了。
中文支持的事情我从来没考虑过。 |
4
issakchill 201 天前
百度 api 用 one api 转接 或者买点 deepseek 的
|
5
morty2 201 天前
试试本人开发的,目前还没有正式上线,现在用白嫖的测试服务器(1g 内存):wanxangtrans.com 。 可以不用登录免费使用,支持自定义 api key 。
|
6
LittleYangYang 201 天前
Deepseek 和 Qwen 现在都挺便宜的,1M Token 也就一块钱作用,效果还行
|
7
LittleYangYang 201 天前
@LittleYangYang 作用->左右
|
8
kneo 201 天前 via Android
翻译已经是最简单的任务了。大模型要是连翻译都做不好就可以倒闭了。
|
9
EmbraceQWQ 201 天前
自己搭的 https://chat1024.tthym.cn 每天 20 次左右,不过没有上传文件,不嫌弃可以试试
|
10
ZnductR0MjHvjRQ3 201 天前
月之暗面 注册送十五块钱
|
12
secsilm 201 天前
说大模型能做好翻译的,怕是没用过几次。
|
14
SkywalkerJi 201 天前 via Android
@kneo 翻译实力差距很大的。而且已经有专攻翻译的大模型了。
|
15
Azure99 201 天前
自荐一下,9B 的模型,适合跑在本地
https://github.com/Azure99/BlossomLM 在线 Demo https://huggingface.co/spaces/Azure99/Blossom-9B-Demo |
17
kneo 201 天前 via Android
@noyidoit 本地小模型不用拿来说吧,根本上不了线,而且这是英语模型。
线上能用的大场模型,有翻译做的很差的吗?比如通义千问,百川,火星,甚至 deepseek ? 真心问,不是杠。我之前试过感觉都还行。不过我主要用 gpt3 ,国内模型确实用的不多。 |
19
Pteromyini 201 天前
@wencan #2 原版对中文确实不太友好
|
20
InkStone 201 天前
如果量不大的话根本不需要考虑那么多……我天天用自己的 GPT3.5 token 跑沉浸式翻译,一个月的账单就十几块钱。这个开销跟免费也没啥区别了。
|
23
Metre 201 天前
https://github.com/LLM-Red-Team 看看这个
Moonshot AI (Kimi.ai) 接口转 API kimi-free-api 阶跃星辰 (跃问 StepChat) 接口转 API step-free-api 阿里通义 (Qwen) 接口转 API qwen-free-api ZhipuAI (智谱清言) 接口转 API glm-free-api 秘塔 AI (metaso) 接口转 API metaso-free-api 讯飞星火( spark )接口转 API spark-free-api MiniMax (海螺 AI )接口转 API hailuo-free-api 深度求索( DeepSeek )接口转 API deepseek-free-api 聆心智能 (Emohaa) 接口转 API emohaa-free-api 此外,我们提出一种可能的提高逆向成本的方案:ban-free-api |
24
nodesolar 200 天前
目前在白嫖百度和 gemini
|
26
nodesolar 200 天前
我几分钟调用一次 不存在超频
|
27
hnliuzesen 200 天前
百度和腾讯的大语言模型有免费的 API ,不过如果做翻译的话,也可以直接白嫖他们的翻译接口
https://cloud.tencent.com/product/tmt https://api.fanyi.baidu.com/api/trans/product/prodinfo |
28
Meteora626 200 天前
大模型做翻译 prompt 也要配套,要不然还真不如用普通翻译接口
|
29
xxmaqzas 200 天前
我这有个不限量的白嫖 api
|
30
BernieDu 200 天前
@kneo 你试过吗,Gemini 的免费 api 我试了,有请求限制,我 10 秒请求一次才勉强不报错,而且我翻译了 20 多种语言,经常有些单词或者句子翻译失败。 本地跑 llama3 8b. 效果更烂,但是 llama3 70b 效果特别好,基本都翻译出来了,而且本地用 ollama 的 api 免费,幸亏 Mac 买的 48g 内存
|
31
wencan OP @Meteora626 是的,提示加会话
|
32
wencan OP @BernieDu 你的 gemini 的打开方式不对
1. 要氪金 2. https://ai.google.dev/api/python/google/generativeai/ChatSession 70b 的模型,占用多少内存? |
33
BernieDu 199 天前
@wencan gemini 6 月才支持的付费 api 把,gemini api 有时候翻译不出来,有时候把英语->乌克兰 翻译成了英文和中文,有时候把英语->泰语翻译为中文,40g
|
36
BernieDu 199 天前
llama3, 1 秒一句吧,我内存小,48g 的,勉强跑的。
|