栏目分类
发布日期:2025-01-14 06:04 点击次数:59
作家:赵雨荷
着手:硬AI
英伟达周二推出了一款名为Jetson Orin Nano Super的生成式AI超等野神思。英伟达CEO黄仁勋示意,这款开荒者套件通过软件升级杀青了更高性能和更廉价钱,仅售249好意思元,尺寸工整,可放在手掌中,可将生成式AI性能提高高达1.7倍。
该公司示意,这款产物稳妥买卖AI开荒者、爱好者和学生,与其前代产物比较,其生成式AI推感性能擢升了1.7倍,性能提高了70%,每秒不错施行高达67万亿次的INT8运算(67 INT8 TOPS),内存带宽也擢升了50%,达到了102GB/s。
黄仁勋还挑升为这款产物录制了一段视频,如同2021年发布Hopper H100时同样,展现英伟达对这款产物的醉心。在视频中,黄仁勋示意,从Xavier启动,英伟达就创造了一种新的处理器,也即是机器东说念主处理器,其时没东说念主知说念他们在作念什么。
新的Jetson Orin Nano Super领有快要70兆次的运算智商,功率25瓦,价钱249好意思元,不错施行HGX的悉数功能,甚而是施行大说话模子。
他示意,不管是创建基于检索增强生成(Retrieval-Augmented Generation, RAG)的大型说话模子(LLM)聊天机器东说念主,构建视觉AI代理,还是部署基于AI的机器东说念主,Jetson Orin Nano Super齐是理思的采选,这款套件齐能以更低的资本提供雄伟的运算效力,主要由于产物撑执低功耗联想,能以7瓦到25瓦的功耗运行,稳妥多样角落配置云算场景,不管是智能城市、智能农业还是机器东说念主开荒。
执续擢升的性能和体验通过软件更新,Jetson Orin Nano Super也将为已有Jetson Orin Nano开荒者套件的用户擢升生成式AI性能。
黄仁勋示意,Jetson Orin Nano Super特别稳妥那些但愿在生成式AI、机器东说念主本领或野神思视觉范畴发展手段的东说念主士。在AI范畴从任务专用模子向基础模子回荡的趋势下,它也为开荒者提供了一个将创意变为本质的易用平台。
为生成式AI提供强盛性能Jetson Orin Nano Super性能增强,为悉数流行的生成式AI模子,举例Meta的LLaMA、阿里巴巴的通义千问以及谷歌的Gemma。这款套件基于Transformer的野神思视觉模子带来了显耀擢升,进一步擢升效力发扬。
该公司示意,开荒者套件包括一个Jetson Orin Nano 8GB 系统模块(SoM)和一个参考载板,为角落配置AI利用的原型联想提供了理思平台。
系统模块接收NVIDIA Ampere架构GPU,配备张量野心中枢(Tensor Cores)和6核 Arm CPU,约略处理多个并行AI利用管说念,并提供高性能推明智商。此外,它还撑执最多四个录像头,分手率和帧率均高于前代版块。
英伟达强调,跟着AI本领逐渐从云霄走向结尾,实体AI将是下一波发展重心,Jetson Orin Nano Super不仅不错用于开荒聊天机器东说念主,也稳妥简历视觉AI代理或部署AI机器东说念主等利用。
庸碌的生成式AI软件生态系统与社区此外,英伟达Jetson AI实验室提供对最新开源社区模子的撑执,以及易于使用的教程。开荒者还不错从更庸碌的Jetson社区赢得撑执,并从其他开荒者的技俩中赢得灵感。
Jetson撑执英伟达的AI软件,包括用于机器东说念主本领的NVIDIA Isaac、用于视觉AI的NVIDIA Metropolis和用于传感器处理的NVIDIA Holoscan。通过NVIDIA Omniverse Replicator生成合成数据,以及使用NVIDIA TAO器具包微调来自NGC目次的预磨真金不怕火AI模子,开荒时刻不错大幅责问。
Jetson生态系统互助伙伴提供至极的AI和系统软件、开荒器具以及定制软件开荒就业。他们还提供与录像头偏激他传感器联系的撑执,以及载板和产物治理决策的联想就业。
为悉数Jetson Orin用户解锁性能擢升:Super阵势英伟达也晓喻将为Jetson Orin NX和Nano系列的系统模块提供软件更新,让它们也能享受到Super阵势的性能擢升,最高可达70%。这些更新将通过Jetpack SDK管制器发布在英伟达网站和GitHub上。
Jetson Orin Nano Super Developer Kit瞻望很快就分解过公共经销商启动供货。关于思要初学AI开荒的学生、工程师或创客来说,这款开荒套件提供了一个经济实惠且功能雄伟的平台采选。
英伟达将Jetson Orin Nano Super Developer Kit定位为推进生成式AI本领普及化的要津产物,但愿在智能交通、零卖管制以及物联网(IoT)利用中大放异彩。
本文来自微信公众号“硬AI”,柔顺更多AI前沿资讯请移步这里
风险教唆及免责条件 市集有风险,投资需严慎。本文不组成个东说念主投资提议,也未探究到个别用户特殊的投资方针、财务情状或需要。用户应试虑本文中的任何宗旨、不雅点或论断是否顺应其特定情状。据此投资,株连本心。上一篇:卓著传统超算!我国超导量子狡计机“祖冲之三号”惊艳亮相
下一篇:博通的“英伟达时刻”确切来了吗?