 |
kaichen等待 AI 降临 🏢 刷推特刷Reddit V2EX 第 1320 号会员，加入于 2010-09-02 10:59:27 +08:002
 9  54  |
_kaichen
kaichen
👨💻 资深全栈开发工程师 | 🧠 AGI 信仰者 | 🚀 e/acc 驱动的持续学习与对 AI/LLM 的长期关注
kaichen 最近回复了
11 天前 回复了 binxin 创建的主题 › 问与答 › 主观的东西为什么这么有用 |
你有没有看过各种药物实验都有对照组？即使是安慰剂组也比不用药组要好？人体本身调节和免疫机制也很强大的，所以医生说让病人保持心情愉快不是没有依据的方法。
另外，也可能是你前面吃的药效起作用了，药物本身疗程也需要时间；当然也可能是高反效应慢慢被身体处理了。
另外，也可能是你前面吃的药效起作用了，药物本身疗程也需要时间；当然也可能是高反效应慢慢被身体处理了。
26 天前 回复了 Cellinlab 创建的主题 › 酷工作 › 寻找“疯子” | 全栈 AI 技术合伙人 |
openrouter & wordware & flowith 这三个东西都不是一个赛道的吧？你们是要做的是把这三个拼到一起？
39 天前 回复了 LoneFireBlossom 创建的主题 › OpenAI › GPT 连学话都学不会 |
大模型是个概率模型，你骂他，和他讲反例，只会把概率引导到更加不符合你需求的结果
另外，由于上下文有限，你聊越久前面的内容会遗忘，或者注意力大幅降低
另外，由于上下文有限，你聊越久前面的内容会遗忘，或者注意力大幅降低
42 天前 回复了 raw0xff 创建的主题 › Local LLM › 代码助手用 cursor pro 划算还是 cursor+ollama 本地部署划算？ |
#19 @shuimugan
gpt4 代码写很烂，只有 claude-3.5 才能写出大概正确的代码片段
我的观点是，现在民用本地设备，跑模型写代码这个事情非常不实惠，买个 cursor 20 刀一个月，是本地跑的 100x 效果
gpt4 代码写很烂，只有 claude-3.5 才能写出大概正确的代码片段
我的观点是，现在民用本地设备，跑模型写代码这个事情非常不实惠，买个 cursor 20 刀一个月，是本地跑的 100x 效果
42 天前 回复了 raw0xff 创建的主题 › Local LLM › 代码助手用 cursor pro 划算还是 cursor+ollama 本地部署划算？ |
可以参考一下这个 aider 的排行榜，基本的算法题，
本地跑 72B 4bit 量化的要 40Gb 显存，也才能做答个 60 分
跑起来很快的 8B 小模型，就 30 多分，你用这个来写代码，就像教小学生写作业，得被气得半死
https://aider.chat/docs/leaderboards/
本地跑 72B 4bit 量化的要 40Gb 显存，也才能做答个 60 分
跑起来很快的 8B 小模型，就 30 多分，你用这个来写代码，就像教小学生写作业，得被气得半死
https://aider.chat/docs/leaderboards/
54 天前 回复了 chungon 创建的主题 › macOS › 纯生产力， M1 Max Studio 还是等 M4 的 Mac Mini |
去买官翻的 mac studio 有性价比
去闲鱼买 mac studio 更有性价比
其实你要的是内存，大部分时候用打不到性能的完全释放，另外 mac studio 的散热是能支持性能持续释放的，比本子和 mini 都好
去闲鱼买 mac studio 更有性价比
其实你要的是内存，大部分时候用打不到性能的完全释放，另外 mac studio 的散热是能支持性能持续释放的，比本子和 mini 都好
54 天前 回复了 malagebidi 创建的主题 › 罗技 › 罗技鼠标计划性报废，还有什么推荐的？ |
@HomeZane 去 PDD 买贴纸贴上 
55 天前 回复了 mfsw 创建的主题 › OpenAI › 聊天机器人,如何训练? |
大力出奇迹，几本书是不够，要很多很多。
参考，推理能力超过 gpt-3.5 的 Llama3
- https://ai.meta.com/blog/meta-llama-3/
- https://ai.meta.com/blog/meta-llama-3-1/
> Meta reports on Llama 3.1's page on Huggingface, using 39.3 million hours of H100 80GB instances to train all 3.1 models (8, 70, 400 B).
大概是，两万四千张 H100 训练 74 天
> Llama 3 is pretrained on over 15T tokens that were all collected from publicly available sources.
大概等同于 60TB 数据，在它的技术报告里，提到这是更大的数据集上做清洗去重的精华
---
所以先有这么多的资源才能训练得到高质量机器人
参考，推理能力超过 gpt-3.5 的 Llama3
- https://ai.meta.com/blog/meta-llama-3/
- https://ai.meta.com/blog/meta-llama-3-1/
> Meta reports on Llama 3.1's page on Huggingface, using 39.3 million hours of H100 80GB instances to train all 3.1 models (8, 70, 400 B).
大概是，两万四千张 H100 训练 74 天
> Llama 3 is pretrained on over 15T tokens that were all collected from publicly available sources.
大概等同于 60TB 数据，在它的技术报告里，提到这是更大的数据集上做清洗去重的精华
---
所以先有这么多的资源才能训练得到高质量机器人
61 天前 回复了 oukichi 创建的主题 › GitHub Copilot › cursor 写小玩意挺好的，写大项目基本没用，想付费的老哥慎重 |
@drymonfidelia
有几个技巧，提升他写对的成功率。
最直接的，@Web ，要求他联网查询再回答。
遇到冷门的库，你可以把文档 URL 贴给他进行索引，然后 @ 索引的文档名字。具体在 cursor 设置里，可以添加文档，他也内置了一些流行的 py/js 库的文档。
某个改动有对应代码示例的网页，比如某篇博客，复制 URL ， @ 贴 link ，他会去扒拉这篇内容，作为参考。这种对于你用的某个库版本特别老或者特别新的时候，比较有用。
有几个技巧，提升他写对的成功率。
最直接的，@Web ，要求他联网查询再回答。
遇到冷门的库，你可以把文档 URL 贴给他进行索引，然后 @ 索引的文档名字。具体在 cursor 设置里，可以添加文档，他也内置了一些流行的 py/js 库的文档。
某个改动有对应代码示例的网页，比如某篇博客，复制 URL ， @ 贴 link ，他会去扒拉这篇内容，作为参考。这种对于你用的某个库版本特别老或者特别新的时候，比较有用。
Select Language