timethinker

timethinker

V2EX member #449603, joined on 2019-10-28 16:09:52 +08:00
Today's activity rank 1130
timethinker's recent replies
15h 19m ago
Replied to a topic by lucassss 生活 半夜腰疼
我之前有相同的症状,疼的坐也不是躺也不是,吃了六味地黄丸以后缓解很多,后来了解到有可能是腰肌劳损,这个需要平时注意坐姿问题,还有二郎腿。总之多运动,恢复没有想象那么快,比较缓慢,我现在已经好很多了,起码不会像之前那样被疼醒。
8 days ago
Replied to a topic by Livid Local LLM local.ai
14 days ago
Replied to a topic by netox 分享发现 在线体验 16K token/s 的新大模型部署架构
我想到了《 2001 太空漫游》里面的 HAL9000 被戴夫鲍曼一张一张的拔下了存储卡的画面。
黑灰产自动化可能会有用,可以将一些常规且重复的操作流程,利用 AI 烘培为基于 OCR 的程序化操作,类似于生成一次性的中间脚本,这样就不用经过 AI ,也不用消耗 Token ,只在某些意外情况无法解决的时候,再由 AI 介入进行修复,然后更新 Case 。
或许是我年纪大了,前段时间有一个帮人拉投资的产品,结果自己拉不到投资,今天又看见帮人做产品营收的,结果自己没营收,只有我一个人觉得这不像话吗。
既然你做的就是找人+沟通的产品,那不如让你的产品直接去找投资人顺便沟通一下?
模型本身在运行时是无状态的,它只有输入和输出,就像是一个函数。每一次输入都是某个会话的完整对话历史记录(可以理解为上下文信息,因此会有上限),然后输出新的对话内容,当你继续在同一个会话中回复的时候,实际上就是把你的输入追加进去,再输入到模型。你的纠正相当于通过提示词打了一个“标记”,模型在新运算中可能会注意到这个“标记”,输出新的看似好像被纠正的结果。

所以输入不会改变模型内部的某些状态,但是模型厂商可能会通过模型外部的机制进行持久化,比如 RAG 数据库,然后在某次输入过程中,检索并附带上一些看似持久化的数据,这些机制对于终端用户来说是无感知的,看起来就好像是模型记住了一样。
bGlhbzEzMTEzMUB2aXAucXEuY29t

谢谢老板
AI 拉低了编程入学门槛,但同时也一定程度上封堵了迈向高阶的道路,当新人习惯了在几分钟之内生成成千上万行代码的时候,阅读代码本身已经变得不再具有现实意义,即便是资深工程师,在面对海量生成的代码时也会望洋兴叹,因此将来的工程可靠性是一个问题,数量级完全不对等,解决办法只能是用 AI 来驯服 AI 。

我在想,当 AI 的结构范式稳定以后,将来可能会冒出一门全新的学科。这门课不教你怎么写具体逻辑,而是研究怎么在高维层面控制通用模式的组合与应用。它的核心目标是在工程实践中对冲掉那些由于过度生成带来的混乱和复杂度。说白了,就是把人的想法和 AI 的算力强行对齐,建立一套从混沌中压榨效能的协议。
About   ·   Help   ·   Advertise   ·   Blog   ·   API   ·   FAQ   ·   Solana   ·   1330 Online   Highest 6679   ·     Select Language
创意工作者们的社区
World is powered by solitude
VERSION: 3.9.8.5 · 17ms · UTC 17:27 · PVG 01:27 · LAX 10:27 · JFK 13:27
♥ Do have faith in what you're doing.