V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
qhgongzi
V2EX  ›  分享发现

英伟达发布了一个 exciting 的新玩具:$249 的 AI 小电脑

  •  
  •   qhgongzi · 14 小时 24 分钟前 · 4514 次点击

    The Jetson Orin Nano Super delivers up to a 1.7x gain in generative AI performance, supporting popular models for hobbyists, developers and students.

    Jetson Orin Nano Super 看起来能跑 Qwen 7B ,Llama 8B 级别的模型

    视频地址: https://youtu.be/S9L2WGf1KrM

    30 条回复    2024-12-18 16:46:15 +08:00
    JayZXu
        1
    JayZXu  
       14 小时 17 分钟前
    Jetson Orin Nano Super Developer Kit Quick Specs

    AI Performance 67 INT8 TOPS
    GPU NVIDIA Ampere architecture with 1024 CUDA cores and 32 tensor cores
    CPU 6-core Arm® Cortex®-A78AE v8.2 64-bit CPU 1.5MB L2 + 4MB L3
    Memory 8GB 128-bit LPDDR5
    102 GB/s
    Storage Supports SD card slot and external NVMe
    Power 7W–25W

    M4 的 NPU 性能为 38 TOPS ( INT8 )

    拿来跑私人还行,至少比游戏卡节能
    jmdxp
        2
    jmdxp  
       14 小时 12 分钟前
    那里能买到呢?
    sbboy
        3
    sbboy  
       14 小时 6 分钟前
    在中国卖吗?
    shenyiyouge
        4
    shenyiyouge  
       13 小时 54 分钟前
    什么价格呢
    shenyiyouge
        5
    shenyiyouge  
       13 小时 54 分钟前
    @shenyiyouge 哎呀呀,看到了,在哪买
    felixlong
        6
    felixlong  
       13 小时 52 分钟前
    内存只有 8G ,跑大模型小了点吧.
    iamqk
        7
    iamqk  
       13 小时 50 分钟前   ❤️ 1
    @JayZXu 主打 AI 我理解 问题是 arm ,用 linux 吗?
    wweerrgtc
        8
    wweerrgtc  
       13 小时 49 分钟前
    这个外观有点太简陋了, 电路都裸露在外, 感觉容易坏
    qhgongzi
        9
    qhgongzi  
    OP
       13 小时 48 分钟前
    @shenyiyouge
    @jmdxp 淘宝应该可以,
    上一代“Jetson Orin Nano”在淘宝有,
    这一代“Jetson Orin Nano Super” 等有货了估计淘宝有卖,刚出来的,再等等
    AFOX
        10
    AFOX  
       13 小时 48 分钟前
    @wweerrgtc 开发板不都是这样吗
    qhgongzi
        11
    qhgongzi  
    OP
       13 小时 47 分钟前
    @iamqk Linux ,这里有个老外的评测,他演示了拆机,跑车辆识别,大模型这些应用
    H97794
        12
    H97794  
       13 小时 39 分钟前
    @JayZXu @felixlong 要是能像 Mac Mini 搞集群, 那要起飞
    qipan0321
        13
    qipan0321  
       13 小时 39 分钟前
    @shenyiyouge 看文档店铺是 https://store.nvidia.com/jetson/store/ 不过我这打不开
    yolee599
        14
    yolee599  
       13 小时 38 分钟前 via Android
    这种板子一般不是跑大模型的吧,都是把一些 yolo ,TF 之类的模型在电脑端训练好,还要量化才能运行在板子上。
    tool2dx
        15
    tool2dx  
       13 小时 36 分钟前
    那么多 cuda 核心,跑原神一定很强。
    baibaibai0126
        16
    baibaibai0126  
       13 小时 22 分钟前   ❤️ 1
    这个系列的设备从 nano 到 orin 我们实验室都买过,都是用来部署在边端做视觉检测的。
    Hana1024
        17
    Hana1024  
       13 小时 13 分钟前
    不知道香港能不能买,想搞一个
    PaulSamuelson
        18
    PaulSamuelson  
       13 小时 3 分钟前
    游戏工作室,多开神器🐶
    lingeo
        19
    lingeo  
       13 小时 2 分钟前
    这个是边缘计算系列的产品,一直在稳定的迭代更新。
    joequan
        20
    joequan  
       12 小时 58 分钟前   ❤️ 1
    这就是个开发版,说成电脑有点夸张了。
    NDHT
        21
    NDHT  
       12 小时 50 分钟前
    @Hana1024 刚发布还不知道,转运到香港至少可行
    superrichman
        22
    superrichman  
       12 小时 49 分钟前
    树莓派 pro
    树莓派 pro max
    chiu
        24
    chiu  
       12 小时 18 分钟前
    @wweerrgtc #8
    这是 Dev-Kit, 每一代都是这样的
    tsq851015
        25
    tsq851015  
       9 小时 2 分钟前
    @Hana1024 同问,老哥有消息了记得戳我
    234ygg
        26
    234ygg  
       9 小时 1 分钟前
    一直都有卖的,购买链接在这
    https://developer.nvidia.com/buy-jetson
    CodeAllen
        27
    CodeAllen  
       7 小时 14 分钟前
    Orin Nano Super ,没看出来跟 Orin Nano 有什么区别,反正都挺贵。
    Nano 都还在吃灰呢
    murmur
        28
    murmur  
       7 小时 6 分钟前
    @tool2dx 这不是废话么,原神现在室温 5g 是手机基本测试,8gen2 就能 wifi 原神,8gen3 可以 5g 原神,8e 能开超分

    过不了原神测试的优化还不如华为的麒麟
    sunmacarenas
        29
    sunmacarenas  
       6 小时 53 分钟前
    GPU 性能 与 NVIDIA Jetson AGX Orin 相比 差了一半,内存小了很多,但价格便宜。看看能不能组 EXO 集群。
    timeance
        30
    timeance  
       6 小时 30 分钟前
    原文地址: https://developer.nvidia.com/blog/nvidia-jetson-orin-nano-developer-kit-gets-a-super-boost/

    本质上就是英伟达官方的”超频“固件
    关于   ·   帮助文档   ·   博客   ·   API   ·   FAQ   ·   实用小工具   ·   2641 人在线   最高记录 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 21ms · UTC 15:16 · PVG 23:16 · LAX 07:16 · JFK 10:16
    Developed with CodeLauncher
    ♥ Do have faith in what you're doing.