共计 859 个字符,预计需要花费 3 分钟才能阅读完成。
当 Nvidia 宣布推出个人 AI 超级计算机时,很多人和我一样,以为这又是一款遥不可及的高端产品。但令人惊喜的是,他们真的将这项黑科技带到了我们的桌面上。在上个月的 CES 展会上,Nvidia CEO 黄仁勋亲自展示了这台名为 Project Digits 的 AI 超级计算机,它看起来就像个加大版的 Mac Mini,但内部却蕴藏着惊人的计算能力。
Project Digits 搭载了全新的 GB10 Grace Blackwell 超级芯片,能够处理高达 2000 亿参数的 AI 模型。要知道,以往这种级别的计算能力需要一整个机房的设备才能实现。而现在,只需 3000 美元,插上电源就能使用。一位在 AI 实验室工作的朋友告诉我,这对他们来说简直是福音,以前跑个模型要等好几天,现在可能几个小时就能搞定。
在配置方面,Project Digits 同样令人印象深刻。它配备了 128GB 的统一内存和最高 4TB 的 NVMe 存储。如果你觉得这还不够,还可以将两台 Digits 连接在一起,这样就能处理像 Meta 的 Llama 3.1 那种 4050 亿参数的超级模型了。不过,对于大多数开发者来说,单台设备应该已经足够。
最吸引人的是它的软件生态。Nvidia 不仅提供了硬件,还打包了一整套 AI 开发工具。从 NeMo 框架到 RAPIDS 库,基本上涵盖了从模型训练到部署的整个流程。此外,它还支持 PyTorch 和 Jupyter 等主流框架,开发者上手应该不会太难。
说到价格,3000 美元确实不算便宜,但考虑到它的性能,我觉得还是挺值的。毕竟现在随便配台好点的游戏电脑也得这个价。而且 Nvidia 还推出了更便宜的 Jetson Orin Nano Super,售价仅为 249 美元,虽然性能差了不少,但对初学者来说是个不错的入门选择。
看到这种级别的 AI 计算能力被压缩到如此小的体积里,不禁让人感慨。几年前,我还在用笔记本跑简单的神经网络,动不动就卡死。现在有了 Project Digits,AI 开发的门槛将越来越低。不过,这种技术进步也让人有些担忧——未来,普通人是否也能轻松搞出个 AI 来?想想还挺可怕的 …