对于目前的关于 ai 的看法和感受

[jony83]

ai 永远只是效率上的工具。 他没有对闭源项目的训练，让做个几年前的 windows95 它都永远都无法实现。 否则大家都去叫 ai 做个华尔街前 10 对冲基金的量化算法了，大家都不用上班了。

ai 本质是文本 tokenizer 化，在向量空间中的寻找最近一个点，取出来后再找最近的点。 它根本就无法理解我们的世界，因为它没有“理解”这个范动作，它是工具是靠概率,它的‘理解’只是前后关系的向量长度或多维度的向量长度。

如果以后 ai 大规模普及，就跟汽车淘汰人力车一样；电脑淘汰手绘画图工程师，操盘员一样。它会创造更多靠 ai 吃饭的人。

从人的历史规律来看，如果一个工具大范围广泛使用，它只会淘汰老旧工具的使用者，但同时创造更多使用新工具的岗位。

我看还有人认为 ai 不算工具，会演变成具有思维意识的‘生命’，我认为人类消亡都不会发生。 只要是人造的就能被量化，能被量化就能提前知道结果，而思维意思是不可量化的，否则就成算命的，某天某时注定会发生什么。就好比你说造出真随机，造出来就应该能量化，不量化怎么验证它是真随机，这跟造出时空机穿越回去杀祖父的道理是一样的悖论。

[zls3201]

多搞点实践吧。

明显你没有学习新东西。

你如何知道 win95 无法被重构的？ 是有事实依据？ 有理论支持？ 还是你信口胡诌的？

还有，你写的 99%的代码，其实就不算创新。

这不需要 ai 有生命，不需要 ai 有思维，只要能接受指令，并完成即可。

[jony83]

@zls3201 你叫 ai 帮你做个长生不老药和当地球皇帝的方案。

[asuka02]

@jony83 问题是重构 win95 不是长生不老

[Tink]

让子弹再飞一会

[voidmnwzp]

想多了 现在 ai 都能找出十几年都没找出来的 Linux kernel bug 了 ，程序员的生产方式早就被颠覆了，只不过大部分企业都还没反应过来而已 ，传导还需要时间

[iyaozhen]

你这个完全是刷几条抖音，就开始思而不学

工业级不追求一句话就能让 AI 干个啥，更多是怎么约束 Agent 把活干好 https://openai.com/index/harness-engineering/

第二点，最近 DeepMind yaoshunyu 有个采访，说到了现在 AI 的发展像 18/19 世纪的物理，有很多现象虽然无法解释，但不妨碍其发展。

AI 确实会创造很多新的岗位，所以整体上大规模失业并不一定存在。但时代的一粒沙，压在个人身上就是一座山，个人的失业还是会大概率出现

[409164]

wait ，你理解我们的世界了？

[pigpigxia]

你说的理解是什么？比如一个人看到一个苹果，通过之前接触、食用的经验等认为它是个能吃的苹果，但是自然界没有定义这个水果就叫苹果。是不是同样可以认为人不理解这个东西，只能按照自己过去的经验给出对应反馈。既然碳基生命不理解一样可以生存和发展，在硅基世界又有什么区别

[clemente]

`ai 本质是文本 tokenizer 化`
你说的是 llm ai

我估计你都不懂什么叫多模态吧

[clemente]

现在世界模型还没有开始 范式也没有固定
你理解的 ai 和现在在发展的 ai 不是一回事

[clemente]

典型的拿 明朝的剑 来斩 清朝的官

[jony83]

@clemente 那你举个例子人发明的东西有哪一个不能被量化。

[jony83]

@iyaozhen 举一个不能被量化的人造东西

[Lax]

两年前我也是一样的看法。
不过事情实在发展，但凡上手操作一下就知道你说的已经不符合现在（ 2026 年 5 月）的实际情况。

所谓靠概率无法理解我们的世界的说法，也许有一定道理，曾几何时也是 AI 的很大问题。
不过现在已经有方法去约束，非常好用。
虽然不一定是最终的形态，但至少已经向着成熟更近了一步。
依然抱持着这样的想法只能算是碳基生命的局限。

[jony83]

学会逻辑，学会反向思维。
反驳的人，请举例不能量化的人造的东西

[fridaycatye]

如果有一天 AI 真的有了自我选择的意志，那人类就成了造物主了。人类作为被造物，本来就不可能超越这个世界的桎梏，AI 只是看起来很会思维的一个工具

[loryyang]

打了一大段话，想想还是算了，每个人按照自己相信的去做吧。自己为自己的决定负责

[xiadengmaX1]

请把标题改为：找认同，不认同的别回复

[darksword21]

#杠精

[june4]

2026 ，现在还有这类想法的已经是珍稀物种，这么单纯也好，至少 op 应该不会有 ai 焦虑了🐶

[Judyhhh]

人类说到底不也是一堆分子原子组成的东西，运转在这个世界的规则下面，什么真随机，量化，不都是人类自身提出的概念。思维意识能不能量化，还真不好说

[jixiafu]

@jony83
反驳你，人发明的不能被量化的东西，就是你提的 ai ，ai 发展到现在还是个“黑盒”，无法被量化理解。
多说几句，其实你前半部分观点现阶段来说还算是符合技术事实的-AI 现在确实是个效率工具，底层也确实是基于 Token 化和向量空间的概率计算。但是最后一段的推论，逻辑就有点荒谬了，比如说能被量化，就能提前知道结果；再比如说思维意识是不可量化的这些。现代科学和数学早就证明了这是错的。

[jony83]

@Judyhhh 你前段说的没错，但是后段逻辑有问题，思维能量化就能知道结果和范围，知道结果就不等于注定吗？谈何随机性呢？如果思维能量化，人的一生就决定了，就算知道结果再怎么努力也无法改变，比如算出你明天出门去上班，就算你老婆意外被车撞了，你也不会去医院看你老婆。除非你定义的思维不是人的思维。

[AItsuki]

目前 AI 就是工具，不止是缺乏闭源项目的训练，而是使用频率比较低的一些代码它也写不出来。偶尔它能用更啰嗦性能更低的方案实现出来，能用，看开发接受不能接受吧。
它确实不可能实现写出 windows95 ，至于后面的幻想就没必要讨论，讨论到一定程度肯定就是哲学问题，然后扯到生命定义去了。

[Judyhhh]

@jony83 #23 首先，举例的时候请拿你老婆，不要拿我老婆，你老婆被车撞了你去不去医院我不管。其次，我理解你想表达的是思维是不可被量化的，这本身就是一个未被证明的命题，命运是不是注定的，本身也无法被证明。是不是随机，和能不能知道结果，也是两码事，即使思维能量化，人的一生确定，也不代表你能知道结果。

[MidLinn]

不是很懂有些反驳 op 的言论。难道现在的 AI 和两三年前的 AI 不一样？在我的认知中应该都还是 LLM 那一套啊？

[jony83]

@Judyhhh 我没别的意思，我是用悖论的方式证明来证明人的思维不可量化，我表述的不够严谨。

[shyrock2026]

愿世界多一些 op 这样的认知，这样我们也许可以活得不那么艰难 =）

[chambered]

我想看看各位用 ai 搓出什么很牛逼的东西

[swananan]

楼上一堆鄙视 op 的，我其实有点赞同 op 的观点，AI 绝对不是无所不能的，并且存在很多使用限制（没有长期记忆，难以培养，随机甚至随意），而且从原理上看，也看不到突破这些限制的可能。
当然 AI 焦虑也是真实存在的，我的工作和生活也无法离开现在的 AI 。

[ttsh]

AI 本来就是概率论啊，每个出现的字都是因为在上下文里权重比较大，当然权重具体怎么算的是一个很复杂的东西

[restkhz]

不谈论 AI,但是什么叫“只要是人造的都能被量化”，“意识不能被量化”？
那么，艺术，诗歌的好坏，作为人造概念，如果你认为思维不可量化，作为意识延伸的他们可以被量化吗？

上面部分我在试图制造悖论反驳，和下面内容无关。

思维意识真的不可以量化吗？
你举的反例并非证明了思维不可量化，而是不可能得到完全准确未来的信息。
你讲的更像是如果我们制造了精准预测石头剪刀布的机器，那么两个机器互相作为对手将会陷入死机。但是这和思维，意识能否量化无关。我们哪怕接受了拉普拉斯妖的存在，假设海森堡不确定性原理不存在，我们能精确测量出每一个量子的状态，给某个时刻做一个完全精确的快照，也不可能精确推测整个环境的未来：
因为这个环境里已经有了一个能预测未来的机器，而这个机器运行必将套娃式模拟它自己，这需要无穷大的算力。所以我们不能精确预测未来，打破混沌。如果你只是部分模拟，剔除这个机器，那么必将因为误差，精度随时间快速下降。

这也是为什么我们要“模型”。虽然做不到 100%正确，但哪怕只是比抛硬币好一点都会有用。

我认为你的逻辑有误，你是怎么从“不可能算命”，“若能量化，人一生就决定了就算知道结果再怎么努力也无法改变”得到“所以思维意识是不可被量化的”？
“思维”和“人生被决定”完全是两个系统，两个环境。你不能因为我们没法预测未来或者有三体问题就得到结论：天体运行不可预测，牛顿开普勒他们都是错的。


这堵墙的存在和人的思维意识无关，人脑只不过是个生化计算机，架构和实现不同而已。


况且，一定只有生物的思维，才叫思维，一定只有生物的意识，才叫意识吗？

[jony83]

@restkhz 就连纸巾和墨水都能量化，歌曲的声音都能量化。是你对这种叫为艺术的抽象意识无法量化。

[unused]

自由意志存在吗？

[acbingo]

楼主说的一半对一半错吧，我也是认为只要是概率模型的底层原理不变，AI 是永远不会产生思维和意识的。但是，AI 不需要产生意识，就已经足够替代掉很多人的工作了。

完全一样的 Win95 确实做不出来，但是比着葫芦画瓢，让 AI 做一个功能完备，长得差不多的 Win95 应该没什么问题。但是你得得具备能够识别出来 AI 做错或者漏做某个模块的能力，这能力不是每个人都具备的。
不然你对着 AI 说：给我做一个华尔街最牛逼的量化模型出来，但是你又不提供给他数据和算法方向，天王老子来了也做不出来。这不是 AI 不够牛的问题，是你自己的问题

目前 AI 的发展真的可怕，之前也是没有人能意识到只要把模型参数量搞的足够大，LLM 就能涌现出如此惊人的能力。同今年开始很多公司开始研究具身智能，给 AI 配上各种传感器，让 AI 有了感知物理世界的能力后，没准狭义的 AGI 真能到来了

[jony83]

@acbingo 对，说白了就是学习。但无法创新，就好比让它解决人类都无法解决的东西它是做不到的，因为无法验证，说极端点叫它画个外星人，就算画的是真的你也无法验证， 其本质原因在训练的时候根本就没有把未知的东西 token 化给他训练。
我说的是无法解决而不是没有注意到，像前面楼上说的 linux 内核问题，那属于人没有注意到而不是无法解决。

[FireKey]

1.ai 的参数是可以量化的没错,但是参数大到无法计算和无法预测没区别.
2.思维意思不可量化,之前出圈的扫描果蝇神经元进行模拟实验说明思维意识本身也是可以计算的.

[katwalk]

你用未来肯定跌去压她，压不动。房价未来涨跌，没人能 100%肯定。你觉得增城没戏，她觉得三五年内不会大跌，甚至可能修复，你俩都是判断，不是事实。

该谈的是你俩预测错了怎么办。

她选择持有出租，是保留一个三五年内房价修复的机会。机会成本是资金被锁住，可能错过其他投资，还要承担空置、维修和未来继续下跌的风险。租金是这段等待期给你的补偿。问题就是，这点租金补偿，够不够覆盖你们承担的风险和机会成本。

把两套方案放在一起对比。

方案 1 ，继续持有。把账算清楚：每年租金净到手多少，空置、维修要扣多少，三年后如果房价没涨怎么办，跌到什么位置必须重新讨论。

方案 2 ，卖掉换投资。也别只讲止损，说清楚卖完的钱投哪里，预期收益是多少，最大能接受亏多少，如果后面房价反弹了你怎么面对。

都别装预言家。

[jony83]

@FireKey 前后矛盾，无法计算就无法运行这个模型。

[YShell]

我理解，如果 AI 有格物致知的能力，那么 AI 就会产生思维，否则 AI 只是一台能够处理人类已知知识的超级计算机。

[winnerczwx]

@jony83 #2 你这个长生不老药和地球皇帝的需求就很抽象, 就像以前产品提出让你做出五彩斑斓的黑一样, 你做不出来就是你技术不行

[jony83]

@winnerczwx 正面的说出人的需求也就是思维是无限的。正因为有无限的思维才有可能创新，请不要扣字眼说前面的例子，而工具是没有思维。

[wu00]

@jony83 #2 不会举例的程序员，不是好..

[jony83]

@jixiafu 那些量化模型又是哪来的？参数是哪来的？ gpu 及显存处理过程又是哪来的？

[docx]

AI 是什么不重要，重要的是对工具的合理使用。

AI 是潮流，不可不用。但 AI 也有弊端，不能全盘依赖 AI ，更不能因此丢失了生而为人最宝贵的独立思考能力。

[woniu127]

@katwalk 提醒下，回复错帖子了

[volvo007]

@woniu127 怎么回事？这已经是我今天看到的第二个回错帖子的了，这还能回错？

[newtype0092]

AI 最大的问题是和人的思考方式的不一致，这会引起很多的认知偏差。

我们现在对各种问题进行的简单/困难的分类，在 AI 的工作模式下完全不成立，这就导致有时候觉得 AI 很神奇高，有时候又觉得很弱智。

使用 AI 的过程就像是对自己的“强化学习”，在 AI 擅长的地方让它更好的发挥作用，在不擅长的地方避免它搞出问题。

现阶段的 AI 还只是工具，离真正的智能还很远，但放着这么好的工具不学习如何使用，迟早也是会被淘汰的。

[cctv323]

没有 ai 之前，大部分人也没有所谓的“理解”，人类群体不就是在一起做随机选择吗？
工具不工具又如何，大部分人也就是制度下的工具

[forisra]

你和这个帖子很多人会有这种想法是很正常的。因为程序员天然就是还原论者，毕竟很多问题起码代码都是清楚可见的，可以理解的。

但搞 ai ，“理解”ai ，还原论帮助不大。就像有的人说的，llm 本质还不是那一套？问题就在于既然你都知道本质了为啥搞出成果的不是你呢？

说白了，廉价的还原论本来就无法解释这个复杂的世界。

[zls3201]

说个最简单的，你觉得现在有人下围棋能有把握赢过 AI 吗？

现在应该是没有人敢打包票的的？

那你觉得以后应该有吗？或者以后有人必然下的过 AI 吗？

AI 能下赢柯洁，柯洁学习 AI 的下法，他能学得会吗？他能理解 AI 吗？或者需要多久才能学会 AI 的算法？学不会的？你猜为啥。

AI 又理解柯洁吗？它需要理解柯洁吗？ 或者理解柯洁的为其需要几个小时？

阿法狗大显神威的时候甚至很多人怀疑围棋的发展路线走错了？ 你猜为啥？

你看三体人都能进化出“言行一致”的设定，它需要理解人类的谎言吗？

我们都不要太自大了。

[fredweili]

废话帝，你对，下一个技术出来还是只会 bb ，我拿 cc 干活去了

[zzxCNCZ]

别那么早下结论吧，毕竟发展才几年。先不假想未来，就看历史，目前人类历史上没有发展这么快，这么迅猛且冲击力这么强的技术。杠别回

[Torpedo]

楼主你的思路有问题。
新技术出现的时候，重点是能做到什么，而不是不能做到什么

[nazhenhuiyi294]

有点过于依赖历史进行线性思维推导，但是 AI 这一次和之前的不一样

[jony83]

@nazhenhuiyi294 如果你认为只有少数人使用，那就违背经济规律，因为他产生不了价值，ai 就会消亡。

[jony83]

@Torpedo 能做到什么的取反是不是不能做到什么？你逻辑有问题，建议多学习再喷。

[92Developer]

看法：会让很多人失去工作
感受：要么转全栈，要么不做程序员

[Daybyedream]

唐

[Mandelo]

“帮我写个 win95”，原来你是这么用 AI 的。。。。

[huaannan1225]

@jony83 纯抬杠，长生不老和 win95 是同一件事吗？不理性发言的话没必要和你讨论了

[katwalk]

@volvo007 #47 同时打开了两个帖子，一不小心就回错了😓

[jony83]

@Mandelo 你老板跟你说任务的时候，他还帮你把任务拆很细，告诉你算法，告诉你架构，配置应该如何放，代码应该是什么风格吗？

[jony83]

@Mandelo 你老爸把你当工具确实需要告诉你那些，如果你老板把你当能独立思考的人，你应该知道如何去实现。

[Leeeeex]

「让做个几年前的 windows95 它都永远都无法实现」
我对这个观点持怀疑态度，GPT 3.5 的时候 AI 和弱智一样，改个代码会改无关的地方；现在 AI 已经能发现很多人没有要求的 bug 。我对 AI 的态度就是模型就是一切，其他的工作做得再好，也不如一个更强的模型。
无意争辩，时间自会说明一切。帖子收藏了，等几年之后我要是翻到了就 @ 你再来看看。

[guanhui07]

会让很多人失去工作

[jony83]

@Leeeeex 改错和创新是本质区别，前者在现有框架内解决，创新是跳出框架。

[supuwoerc]

我猜测此时此刻微软负责 windows 开发的员工也正在使用 ai 开发 windows

[magicZ]

为了拓展 ai 能力范围，主流厂商搞 agent, 押注可闭环的代码领域，
不相信 llm 能走向 agi 的科学家李飞飞，杨立昆的世界模型方向.
关于历史规律, op 不会是看了工业革命纺织机之类的东西吧，比起来新岗位我更期待发展到全民的福利，工作成为一种爱好。

[fcten]

“只要是人造的就能被量化，能被量化就能提前知道结果”？

我做了一个🎲，请告诉我接下来扔十次分别是几点。

[jukanntenn]

你可能混淆了 training 和 generating ？我的理解，即使 AI 没有训练过 windows 95 ，没有训练过华尔街量化基金算法，但是如果你的 prompt 足够好，AI 是可以生成出 windows 95 操作系统的代码和华尔街量化基金算法的。AI 并不是只能输出训练过的东西，不然目前的 AI 编程就不可能实现了。

[jony83]

@magicZ 我没看那些东西，我了解人性。人性害怕未知不可控，所以各国基本禁止胚胎编辑。
另外”全民的福利，工作成为一种爱好“，那社会会倒退，看看大锅饭时代，了解人性，能躺不会坐，能坐不会站，能站不会跪。

[jony83]

@jukanntenn 你不把算法告诉他，他永远不会写。我想问你他怎么会写 for 循环。

[jony83]

@jukanntenn 我回答你，是因为训练的时候定义什么是 for 循环，并告诉了他怎么写。

[JasonYip]

量化只是说能用数值、通过数学建模、或者用概率来描述对象的部分属性，但量化这种手段不等于能够精确预测结果。我可以比如对一个路口的车流量、一个店面的人流量进行统计分析，建立一种泊松分布或者更复杂的什么概率分布，但是只能在概率意义预测某个时间段下可能的车流量人流量。你可以预测一个概率模型的结果空间，但是你不能精确说下次一定是什么结果，即使概率 100%也不一定发生，0 也不一定不发生。
意识本身可能不是量化的 但是不代表不能被量化，量化本身也不能精确预测结果

[YangWaleed]

换个角度，人类的意识和思维也是某种纬度的 tokenizer ，很可能也是通过概率去 “理解” 世界。

人类的思维意识能不能量化我感觉得分情况：
某一个人的具体某一个选择 是无法精确计算的，就如同无法精确计算某一次投骰子的结果
但某一群人的选择、某一个人在特定场景下的选择 是有可能计算的，就比如现在的大数据学习

[jony83]

@JasonYip 翻下单位表，再翻下你任何产品包括食物药品哪个不是精确用单位量化。就连人的手和脚都能量化。模型是模型，只要是生命参与的就无法量化，因为是真随机，车流量也是生命参与的产物。你举例错了。

[jony83]

@YangWaleed 人可以对新的发现自我创建新的定义，并达成共识。

[JasonYip]

@jony83 随机本身就是可以量化的啊 要不然概率论与数理统计还有测度论是研究什么的？和有没有生命参与没关系。大数据杀熟怎么来的？通过建立用户画像，对用户的行为进行量化的统计分析，预测用户接下来的行为，从而进行针对性的推送和参数修改，这本身就是成功的

[jony83]

@JasonYip 对，他们有交集，工具根据工作条件，输入指定会输出相应的结果。 而统计学是概率，你大概会去做某事，可能因为某个电话不做了。

[jony83]

比如钢板的韧性，cpu ，内存，纸巾，桥梁等等都可以量化，同一材质和环境不会出现输入和输出违背。

[aicong2021]

@jony83 会不会是思维就是可以被量化的，但是没有以你可以理解的方式被量化？会不会命运本身就是注定的，只是你并不愿意相信？人的思维本身就是有局限性的。

[mx1700]

我制作一个混沌摆，它的长期运动轨迹就不可量化

[aicong2021]

人的训练基于已有的物料，AI 也是；人的创造也基于已有的物料，AI 也是；人不能创造出世界上本就没有的东西，AI 也是；比如车，世界上原本也有，只是分子原子的组合方式改变了而已；对于当前的语言大模型，它和你一样也能创造出世界上原本就不存在的句子，只是概率比较小而已。

[jony83]

@aicong2021 人能发现新的事物并形成共识并定义它，ai 能吗？如果能的话，他就能不需要训练就能在若干年内做出华尔街最牛逼的对冲基金量化算法。另外人可以强行用对撞机合成元素，虽然只存在几飞秒几纳秒就消失并且能定义这个元素达成共识。

[aicong2021]

@jony83 当前是不能的，并不代表以后不能。就人可以强行用对撞机合成元素，并对此达成一个共识这个例子，AI 发展到一定程度以后肯定是可以的。还是那句话，意识是什么人类自己并不能说清楚，也许本质上我们和我们创造的 AI 并没有那么大的差别。多看下科幻电影就能明白的事情，不要先说不可能，一切皆有可能。

[nVoxel]

那么不查资料解释下文生视频怎么回事呢

[jony83]

@nVoxel 文本标签化+图片训练。多张连续图片形式视频。

[jony83]

@aicong2021 人性就决定不能。就算它有意识了，达成共识了发明了一些 ai 自己发明的定义，因为 tokenizer 这个翻译器没有定义 ai 与人之间的关于 ai 发明的东西，可能会出现乱码或其他问题，人就会把它干掉。因为人的本性就是希望要你做事必须符合我预期。

[jony83]

@mx1700 不用做一个混沌摆，你就用纸卷起来吹口气，然后问气飘哪里去了不可量化。你如果是这样的逻辑思维反问话，还是多读点书。

[jony83]

很多人搞不清楚什么叫工具，工具是用来解决问题的，你要解决这个问题必须要量化，否则你怎么知道这个工具能解决你的问题呢？
比如大桥的承载能力，纸张的吸水性，cpu 的计算能力，模型的处理能力，材料的韧性熔点，发动机的马力，刹车片的摩擦力，药物的吸收，食物的热量等，同等材料同等条件是确切的值。
而有的人说的预测交通和天气的量化模型那是概率统计学。

ai 作为人造的，它的工作环境在人设计的时候就已经限定死了，再怎么发展都不会逃离它底层运行环境，因为我们给他什么词元，它只能用那些词元对应的符号，它无法创造新的符号，就算它有意识创新了，研发它的人也会把它干掉，因为超出预期，研发它的人不知道那些符号是干嘛的，不知道是不是 bug,因为人的本性就是害怕未知，需要工具可控，跟有些人害怕 ai 取代工具一样，这也是为什么禁止动物胚胎编辑，核聚变要可控。

[catazshadow]

https://www.v2ex.com/t/1131868

[mx1700]

@jony83 我看你先学学做人吧

[beyondstars]

AI 推翻了一个几十年未决的数学猜想 https://wallstreetcn.com/articles/3772780 ，说 AI 没有创造力的可以了解下。

[levelworm]

AI 就是用来代替人的。初衷就和之前的工具代替工具不一样，可以说是信息化革命的后半夜。

[jony83]

@beyondstars ai 是在给的规则内通过穷举法找到人还没发现的排列组合，这不叫创新。如果人没发现引力波，在训练时没告诉他什么是引力波这个概念，他永远都不知道什么是引力波，以及可以利用引力波实现的相关应用，我只是打一个比方。



@levelworm ai 在设计之初，他的底层也就是硬件和软件已经把他限制死了，带宽，参数，内部运行逻辑等，他跳不出来。就算它跳出来，也超出人的预期，会因为是 bug 把它解决掉。你要想清楚，任何工具都是要符合预期的。不符合预期的那就是有问题的。

[jony83]

@levelworm 桥梁，发动机，纸张，机床，光刻机，导弹，雷达等所有东西在设计的时候都是要符合预期的。人害怕的就是未知和不可控。你发明一个桥梁今天可能承载 100 旽，明天承载可能只有 10 吨或 1000 旽，你会使用吗？

[kk58]

1.没有内部数据，也可通过不断试错，系统自己造出数据
2.算概率很准，本身就需要系统在内部构建出对真实世界运作规律的理解，都是一回事
3.汽车只延伸了人的腿，而 AI 延伸的是大脑。所有工作都被延伸的将来，不会再有需要人去填补的空缺
4.数学早证明了。规则完全是人定、完全可以量化的系统（象棋围棋），未来结果也不可能被百分百提前算出来。

[kk58]

去搜索 Rewritten Chain of Thought for the Solution to the Unit Distance
Problem
这里的数学证明在全人类的书本里都没有过，是所有人都没见过的解法。工具只是代替人的手或腿，但你看 AI 已经代替了人的大脑。AI 自己会思考，会提出假设并验证假设

[jony83]

@kk58 它代替不了人的大脑。内存，显存，gpu 架构，带宽，参数，参数的位数等等都是限定死的，那是包裹它的容器。任何超出人预先设定的预期那就是 bug,必须被干掉，因为人害怕不可控，这是人的底层基因决定的。
人创造的工具就相当于绝对服从的奴隶，奴隶是绝对听话且没有思想的。