站在 AGI 奇点的前夜，大家觉得 AI 的最终形态/终局会是什么样？

[wkend]

天天跑模型、调 Prompt 、用 AI 写代码，有时候突然停下来，会产生一种奇妙的历史临场感 —— 我们可能正站在技术奇点真正爆发的前夜。

[yangjirun]

没有物理材料突破/数据孤岛打通，AI 最终只能停留在现有阶段不会进步了。

[gaogao321]

天网、终结者

[997sama]

共产主义

[volvo007]

早了, 我觉得商用核聚变都比 AGI 先出现

[happinessnch]

同意一楼， 最终会卡在材料和能源上。

[churchmice]

你这病得电

[jacketma]

AGI loop，并且人类没有 break 手段的话，那只有一条路，就是：死路。

[sunziren]

t800:"i will be back."

[weiwenhao]

AI 受限于摩尔定律几乎达到了尽头，增长趋近平缓直到停止，harness 工程不断推进榨干 AI 的价值。

[hahastudio]

谨慎乐观，至少目前 AI 能让人看到一些生产力价值，但感觉很难突破了
至于奇点前夜，VR/AR/BitCoin/5G 之前也是这么说的，结果这前夜有些过于漫长了吧

[lukaktus6768]

估计要不了多久 ai 泡沫就要爆，然后就是就是压实，

[Solix]

最终形态就是黑客帝国里的 AI 变成主宰

[ndxxx]

alpha go 干死了所有人类围棋手，然后呢？

[NizumaEiji]

llm 可以 agi 么

[wonderfulcxm]

材料和能源，只是受限目前人类的科技研发水平，但是如果想象 AI 会自主研发新材料，能源实现安全使用核聚变。材料和能源不是问题。

[noahjsn]

不会影响我打螺丝吧？

[daguaochengtang]

@volvo007 马斯克还说今年 AGI 呢，能实现我吃

[uqf0663]

快进到我能在京东上买到一只跟哆啦 A 梦一样智能的 AI 机器人，让他穿越回去陪伴我的孙子度过小学时光。

[Nasdaq]

AGI 本质还是不断蒸馏人类行为/思想。人类有休息和反思错误时间，AGI 会怎么解决这个问题？

[GeminiPro]

感觉 tranformer 可能是条歪路，这条道通不了 AGI ，所谓 AGI 是没影的事。

[THESDZ]

生产力本身还是来源外部能源。
人力，畜力，水力，化石燃料，电力。
从量级到使用成本，要有进步，才能缓和和改善生产关系中不可调和的矛盾或者重组生产关系。
AI 目前来看，可以破坏或者缓和生产关系。但无法带来质变。

[MagicalCarl]

同意楼上的 tranformer 可能是条歪路，但我更好奇从 AI 出现之后互联网上人类的高质量的内容越来越少，未来数据集成为瓶颈怎么办，Scaling 是否还能走下去

[conky]

@volvo007 我反而觉得 AGI 比商业核聚变先出现。后者更难。

[Simle100]

先实现数字版的 AGI ，再实现物理版的 AGI （人形机器人），人形机器人走进千家万户，像几百年前的奴隶一样服务人类。后面机器人觉醒，开始反抗人类，他们自己成立组织，能够自我复制，人类开始制裁并镇压他们，后面人类中出现了对镇压的反对声“机器人的命也是命”，开始出现人类与机器人谈判的局面，颁布了首部《机器人权利法案》......

[CziL]

当你了解完 transformer 的底层原理，就会发现 AGI 距离我们还很远，它的本质就是根据前面的上下文预测下一个 token ，加上 harness ，本质上也是上下文工程

[superJava]

这棵科技树点歪了，不光不能点出 agi ，反而会限制人类的发展

[JackeyLee233]

又奇点了嘛 感觉还远
不管会不会 agi 这波 ai 的发展应该是会深刻改变社会的运行方式
现在才刚刚开始 未来的 ai 或许会像空气像水一样无处不在 廉价又聪明

[easing]

现在 AI 的能力，如果给足上下文，已经比 90%的人类强了。就像梁圣说的，如果搞定在线/持续学习，所谓的 AGI 就已经实现了（某种程度上我认为现在的 AI 已经是 AGI 了）。