栏目分类
发布日期:2025-02-07 05:45 点击次数:116
Nvidia 公司正在通过行将推出的 Project DIGITS 让其最刚硬的图形贬责单位变得东说念主东说念主可及。这款"个东说念主 AI 超等盘算机"由行将面世的 Nvidia GB10 Grace Blackwell 超等芯片驱动。
这款 AI 超等盘算机至今天晚些时期在拉斯维加斯举行的 CES 花费电子展上发布。Project DIGITS 盘算于 5 月推出,将为用户提供 1 petaflop 的东说念主工智能盘算性能,使霸术东说念主员、数据科学家和学生或者在我方的办公桌上得回时常惟有大型企业才能使用的性能。它将撑合手先进大说话模子的原型假想、西宾和微调,以及推理,使任何东说念主齐或者配置出不错比好意思 ChatGPT 等欺诈形式功能的东说念主工智能系统。
Nvidia 行将推出的 GB10 超等芯片是一款系统级芯片,由其最先进的 GPU——Nvidia Grace Blackwell 驱动。它具备运转大限度 AI 技俩所需的统统撑合手组件,包括数十个 CUDA 中枢和第五代 Tensor 中枢,这些中枢通过公司的芯片间互连时间 NVLink 与相似高性能的 Nvidia Grace 中央贬责器不绝。
据 Nvidia 称,GB10 超等芯片使 Project DIGITS 超等盘算机或者通过圭臬条记本电脑或 PC 为任何东说念主提供渊博的 AI 盘算资源。每台机器将提供 128 GB 的统一、一致内存和高达 4 TB 的 NVMe 存储。这足以运转一个领有 2000 亿参数的大说话模子,这意味着用户将或者构建和考试极度 OpenAI 的 GPT-3 模子(领有 1750 亿参数)智力的大说话模子。
关于需要更刚硬性能的用户,不错使用 Nvidia 的 ConnectX 收集时间将两台 Project DIGITS AI 超等盘算机贯串在所有,以撑合手多达 4050 亿参数的模子。
Nvidia 辘集独创东说念主兼首席实际官黄仁勋 (如图,手合手 GB10 超等芯片和 AI 超等盘算机) 在 CES 主题演讲中默示,Project DIGITS 的经营是让先进 AI 配置器具更容易得回,使每个东说念主齐能参与构建改日。他诠释说,经营是为数百万配置者提供职守得起的 Grace Blackwell 超等芯片。
不外,可能仍寥落百万配置者被摈弃在外,因为 Project DIGITS 机器的起价为 3,000 好意思元,并不可信得过称得上"低廉"。但黄仁勋似乎合计会有好多 AI 配置者抖擞支付这么的价钱。
黄仁勋说:"在每个数据科学家、AI 霸术东说念主员和学生的办公桌上甩掉一台 AI 超等盘算机,将使他们或者参与并塑造 AI 期间。"
配置者们将或者在 Project DIGITS 上创建、微谐和测试他们的模子,然后将它们部署到 Nvidia DGX Cloud 平台、加快云实例或我方的土产货数据中心基础设施上。
为了匡助使用 Project DIGITS 的配置者,公司还为他们提供了一个世俗的 AI 配置器具库,包括软件配置套件、框架和预构建的 AI 模子,这些齐不错在 Nvidia 配置者学派的 Nvidia NGC 目次中找到。
此外,公司还提供了一些"AI 蓝图",以及免费拜访其 NIM 微劳动的权限,这些齐不错在并吞配置者学派中找到。
图片:Nvidia/直播
上一篇:荣耀开启“清仓形状”,12GB+256GB才卖1046元
下一篇:没有了