V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
这是一个专门讨论 idea 的地方。

每个人的时间,资源是有限的,有的时候你或许能够想到很多 idea,但是由于现实的限制,却并不是所有的 idea 都能够成为现实。

那这个时候,不妨可以把那些 idea 分享出来,启发别人。
freepoint
V2EX  ›  奇思妙想

未来已来,奇点临近。

  •  
  •   freepoint · 2023-03-24 13:37:29 +08:00 · 3154 次点击
    这是一个创建于 371 天前的主题,其中的信息可能已经有所发展或是发生改变。

    未来已来

    现在关于 GPT 的解读和视频多如牛毛,多数人的视角都过于狭隘。和伟大的人对话,总是能汲取很多灵感,毫无疑问,库兹韦尔在人工智能领域无疑是权威性的存在。

    最近在看库兹韦尔写的《奇点临近》一书,对比现在的人工智能潮强势的崛起,还是觉得本书对于未来技术大爆炸,奇点临近很有预见性的, 毫无疑问,我们现在已经处于第四纪元,即将踏入第五纪元。 下面是章节中富有预见性的对话,有的对话可能现在已经快实现了,有兴趣的可以讨论下。

    六大纪元

    预言对话

    莫利·瑟可 2004:我怎样能知道奇点什么时候来临呢?我的意思是我需要时间准备。
    
    雷:为什么?你打算做什么?
    
    莫利 2004:让我想想,嗯,首先我想调整我的简历,使自己能给未来的这股力量留下好印象。
    
    乔治·瑟可 2048:哦,我可以帮你完成这项任务。
    
    莫利 2004:你不要这么做,我完全有能力自己搞定它。我也许会删除一些文件,你知道,这些文件侵害了一些机器。
    
    乔治 2048:哦,无论如何,机器还是会发现的。但是不用担心,我们非常理解。
    
    莫利 2004:不知什么原因,我还是不太放心。我还是想知道奇点临近时的预兆。
    
    雷:当你的收件箱中 1000000 封电子邮件时,你就会知道奇点来临了。
    
    莫利 2004:嗯,这样说的话,听起来很快就会实现;但说真的,我在接受新事物方面有些困难,我又怎么能跟上奇点的步伐呢?
    
    乔治 2048:你会有一个虚拟助手,事实上,你需要一个。
    
    莫利 2004:我的助手会是你吗?
    
    乔治 2048:乐意为你服务。
    
    莫利 2004:那太好了,你会照顾好所有的事,有时你甚至不用告诉我。哦,也不必费事告诉莫利将要发生的事了,她无论如何也不会明白的,让我们把她蒙在鼓里,让她保持现在的快乐吧。
    
    乔治 2048:不会的,完全不会。
    
    莫利 2004:你是指快乐?
    
    乔治 2048:我是指把你蒙在鼓里,你会理解我所要做的事,如果你真的期待那一天。
    
    莫利 2004:嗯,通过逐步的……
    
    雷:提高?
    
    莫利 2004:是的,我就是这个意思。
    
    乔治 2048:好吧,如果我们的关系会成为想象中的那样,那也是个不错的主意。
    
    莫利 2004:我能够期待自己保持现在的样子吗?
    
    乔治 2048:任何时候我都会忠于你的,但我可不仅仅是你优秀的仆人。
    
    莫利 2004:其实如果你只是我优秀的仆人,那也不错。
    
    查尔斯·达尔文:我可以打断一下吗?在我看来,一旦机器的智慧超过人的智慧,它们就会自己设计下一代机器。
    
    莫利 2004:听起来并非匪夷所思,机器是可以用来设计机器的。
    
    查尔斯:是的,2004 年机器还是受控于设计师的,一旦机器达到和人类同样的水平,它就会在一定程度上结束这一循环。
    
    内德·路德:人类将来可能会从这个循环中被淘汰
    
    莫利 2004:它仍然会是一个很漫长的过程。
    
    雷:哦,完全不是。如果能够建立一个类似于人类大脑的非生物智能,即使采用类似 2004 年的线路,它——
    
    莫利·瑟可 2104:你是指她?
    
    雷:当然,她也会比现在思考得快一百万倍。
    
    蒂莫西·勒瑞:因此主观上的时间会延长。
    
    雷:完全正确。
    
    莫利 2004:听起来主观上的时间会很长,你们机器要怎样利用这么多的时间呢?
    
    乔治 2048:有很多事情要做,毕竟我能够接触到网上人类的所有知识。
    
    莫利 2004:只是人类的知识吗?那机器的知识呢?
    
    乔治 2048:我们喜欢把它看做是一种文明。
    
    查尔斯:那么,机器确实能够改善自己的设计了。
    
    莫利 2004:哦,我们人类已经开始这样做了。
    
    雷:但我们仅仅是改善一下细节,从本质上来说,基于 DNA 的智能是比较慢的,也是有限的。
    
    查尔斯:所以机器会很快地设计自己的下一代。
    
    乔治 2048:事实上在 2048 年,情况就是这样的。
    
    查尔斯:那时我也将处于一个全新的进化中。
    
    内德:这听起来更像是一个不稳定的失控的现象。
    
    查尔斯:基本上,这就是进化。
    
    内德:但是机器和他们的祖先们怎样交流呢?我想我不愿意挡住他们的路,我在 19 世纪初为躲避追捕而藏了好几年,不过,我怀疑躲避这些机器会更难……
    
    乔治 2048:嘿,哥们。
    
    莫利 2004:躲避这些小机器人……
    
    雷:你指的是纳米机器人。
    
    莫利 2004:是的,躲避这些纳米机器人会非常难,我确信。
    
    雷:我希望来自奇点的智能可以充分尊敬他们的生物祖先。
    
    乔治 2048:绝对的!这不仅仅是尊敬,而且是崇拜!
    
    莫利 2004:太棒了,乔治,我会成为你尊敬的宠物,而不是我刚才想的那样。
    
    内德:那就是泰德提出的——我们会成为宠物。那是我们的命运:成为心满意足的宠物而不再是自由的人类。
    
    莫利 2004:那么这个第六纪元呢?如果我仍然保持生物状态,我会以一种十分低效的方式用尽珍贵的物质和能源。你会想要把我变成 10 亿个虚拟的莫丽和乔治,因为他们中任何一个都比我思考得快得多。看起来完成这种转变会有很大的压力。
    
    雷:不过,你只是占有可用的物质和能量的一部分,保持你的生物性,这并不会明显改变奇点的物质和能量分配,况且保持生物遗产是很值得的。
    
    乔治 2048:绝对的。
    
    雷:就像今天我们努力保护热带雨林和物种的多样性一样。
    
    莫利 2004:那正是我所担心的——我的意思是,我们努力地保护他们,但是保留下来的还只是一点点,我觉得我们会有像濒危物种那样的结局。
    
    内德:或者是像灭绝的物种。
    
    莫利 2004:不仅仅是我,我现在用的那些东西呢?我用过很多东西。
    
    乔治 2048:那不是问题,我们会回收所有的东西。当你需要时我们会给你营造一个你需要的氛围。
    
    莫利 2004:哦,那我会在一个虚拟现实中?
    
    雷:不,事实上,是微机器人现实。
    
    莫利 2004:我会在一个微机器人中?
    
    雷:不,很多微机器人中。
    
    莫利 2004:不会吧?
    
    雷:我会在这本书中的后面章节中解释。
    
    莫利 2004:哦,给我点提示。
    
    雷:微机器人是纳米机器人,它是一种血细胞大小的机器人。这些机器人会自动连接起来,形成任意的物理结构。此外,他们能够以一种引导视觉和听觉的信息方式,把虚拟现实中的东西转换到真实的现实中。
    
    莫利 2004:很抱歉我那样问。但是,就像我想的那样,我不仅仅想要我的东西,还要所有的动物和植物。即使我不能看见或触摸它们,我也想知道它们的存在。
    
    乔治 2048:但是不会造成任何损失。
    
    莫利 2004:我知道你会一直那样说。但我指的是生物现实。
    
    雷:其实,整个生物圈的物质和能量还占不到太阳系物质和能量总量的百万分之一。
    
    查尔斯:其中包含了大量的碳。
    
    雷:为了确保我们没有丢失任何东西,保留全部生物圈还是很值得的。
    
    乔治 2048:至少这是目前几年来大家的一致意见。
    
    莫利 2004:所以,基本上,我会拥有一切身边需要的东西。
    
    乔治 2048:事实确实如此。
    
    莫利 2004:听起来像国王迈达斯——他触摸过的所有东西都变成了黄金。
    
    内德:是的,你也会想起他是被饿死的。
    
    莫利 2004:好吧,如果我最终到达了那个世界,拥有了超多的主观时间,我想我会无聊死的。
    
    乔治 2048:这个永远不会发生,我保证。
    
    11 条回复    2023-04-06 11:43:13 +08:00
    charlieethan
        1
    charlieethan  
       2023-03-24 13:58:39 +08:00
    我还以为老高来 V2 发帖了呢 😂 但话说回来,我认为短期内人类不会踏入第五纪元,因为我认为 ChatGPT ,或者说大模型的出现还不足以把人类带到更高的纪元,除非现在 ChatGPT 之类的人工智能是运行在量子计算机上的,因为我觉得只有量子计算机才能真正地解放算力,只有拥有了非常高的算力,很多更高级的人类辅助工具才能够出现,而现在的 ChatGPT ,我认为只是人类踏上第五纪元这座高山的第一级台阶
    freepoint
        2
    freepoint  
    OP
       2023-03-24 14:26:59 +08:00
    @charlieethan 现在的算力是“大力出奇迹”,量子算力的加持不知道会把这种模型推到什么样的高度,好奇又恐惧...
    lpt0
        3
    lpt0  
       2023-03-24 14:43:52 +08:00 via Android
    还早呢
    layman3612
        4
    layman3612  
       2023-03-24 14:55:25 +08:00
    chatGPT 本质也是学习人类生产的知识来进化, 如果人类过度应用 chatGPT 而不是自主创造知识 ,反而会导致 chatGPT 没有知识可学,也就限制了它自身的发展。
    encro
        5
    encro  
       2023-03-24 17:27:43 +08:00
    @layman3612

    你的观点我和相同。

    感觉现在 chatgpt 还是语意语境理解和数据库。
    zagfai
        6
    zagfai  
       2023-03-25 01:26:16 +08:00
    一个知识过载不懂逻辑的小孩 也挺危险的
    Bssn
        7
    Bssn  
       2023-03-25 02:55:08 +08:00
    @charlieethan 万一老高真的在 v 站有号呢😂
    learningman
        8
    learningman  
       2023-03-25 22:39:31 +08:00 via Android   ❤️ 1
    gpt4 啥时候 cf1000 分了再说吧
    unii23i
        9
    unii23i  
       2023-03-27 09:54:17 +08:00
    有可能的吧,我决定根据 gpt 写写科幻小说,万一能变现
    freepoint
        10
    freepoint  
    OP
       2023-03-27 11:10:04 +08:00
    @unii23i 有点东西
    xujianxing
        11
    xujianxing  
       358 天前
    @charlieethan AI 这个我不了解,我有一个疑问,AI 模型这个维度会有上限吗,就是达到某个点后,算力已经不是瓶颈了。
    关于   ·   帮助文档   ·   博客   ·   API   ·   FAQ   ·   我们的愿景   ·   实用小工具   ·   5336 人在线   最高记录 6543   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 29ms · UTC 08:06 · PVG 16:06 · LAX 01:06 · JFK 04:06
    Developed with CodeLauncher
    ♥ Do have faith in what you're doing.