栏目分类
发布日期:2025-03-24 06:58 点击次数:194
近日,蓬勃平台文书全面撑执DeepSeek全系列大模子,这一举措涵盖了蓬勃腾云S5000C与腾锐D3000处理器,世俗适用于数据中心及末端哄骗场景,展现出超卓的性能阐扬。
在DeepSeek-V3与R1版块面世后,蓬勃马上活动,在腾云S5000C与腾锐D3000平台上进行了瞩主张腹地部署考证,凯旋构建了一整套端到端的国产平台DeepSeek大模子智能计较环境。格外是在数据中心规模,腾云S5000C工作器与多款国产AI加快卡的协同使命,使得DeepSeek蒸馏版与全量版得以得手部署。
据官方试验测试数据揭示,蓬勃腾云S5000C结合8张国产AI加快卡使用时,DeepSeek-R1-Distill-Llama-70B版块的推理速率惊东说念主,每秒可处理22个tokens,其腹地部署的推理恶果与国外同类居品旗饱读相等,举座性能达到了国外平台性能的约80%。DeepSeek R1 671B的竣工版模子也已在由四台机器、32张AI加快卡构成的工作器集群上,通过散布式推理框架凯旋部署。
在用户末端层面,基于腾锐D3000处理器与星河麒麟V10操作系统的台式机,相通展现出了浩大的腹地部署才气。通过搭载DeepSeek-R1 7B蒸馏版模子及1张国产推理卡,这些台式机已具备了AI PC的功能,为用户提供了一个安全可靠的腹地学问助手。
蓬勃平台此番对DeepSeek全系列大模子的全面撑执,不仅进一步拓宽了国产处理器在AI规模的哄骗范围,也为数据中心与末端用户带来了更为高效、智能的科罚决议,璀璨着国产平台在AI工夫规模的又一要害阻难。