计算机行业点评:英伟达推出全新H200,算力建设保持高景气 财信证券 2023-11-17(4页) 附下载
发布机构:财信证券发布时间:2023-11-17大小:485.71 KB页数:共4页上传日期:2023-11-19语言:中文简体

计算机行业点评:英伟达推出全新H200,算力建设保持高景气财信证券2023-11-17.pdf

摘要:投资要点:事件:当地时间11月13日,英伟达在2023年全球超算大会(SC23)上推出了一款最新的AI芯片H200。作为首款采用HBM3e的GPU,H200借助更大更快的内存可加速生成式AI和大语言模型的运行,同时推进HPC工作负载的科学计算。英伟达称,H200将于2024年第二季度出货,亚马逊云科技、谷歌云、微软Azure和甲骨文云将成为首批部署基于H200实例的云服务提供商。主要升级包括搭载全新的HBM3e内存,显存容量提升76%,显存带宽提升43%。H200将H100中的HBM3升级为了HBM3e,其中GPU显存容量从H100SXM的80GB增加到141GB,提升了76%;GPU显存带宽从H100SXM的3.35TB/s增加到4.8TB/s,提升了43%。沿用Hopper架构,算力参数与H100相同。H200依旧沿用了Hopper架构,与H100相互兼容,这意味着已经使用H100进行训练的人工智能公司将无需更改其服务器系统或软件即可使用H200。依据英伟达披露数据,H200的FP64算力、FP32算力、FP16TensorCore算力、FP8TensorCore算力等算力参数与H100保持一致,H200在算力参数上并无提升。H200性能提升主要体现在AI推理和HPC计算。根据英伟达披露数据,在推理70B的llama2模型时,速度相比H100提升90%,在推理175B的GPT-3模型时,速度提升60%。在处理模拟仿真、科学研究等显存密集型HPC应用时,速度相比H100提高了20%以上,相较于双核X86CPU提高了110倍。英伟达在超算领域持续发力,超算TOP500中八成新上榜系统使用英伟达H100。SC23大会发布了最新一期超算TOP500榜单,其中使用英伟达技术的超算系统数量达到了有史以来的最高水平379台(今年5月份是372台),包括49台新上榜超算中的38台。英伟达为这些系统提供了超过2.5exaflops的HPC计算性能,高于5月份的1.6exaflops。在前10名中,英伟达就贡献了近1exaflops的高性能计算性能和72exaflops的AI性能。英伟达加速迭代彰显深厚技术储备,算力建设维持高景气度。之前英伟达Hopper系列产品的代际更新周期大概为2年,此次H200发布时间间隔H100发布不到1年,超过了市场预期。我们认为这说明:1)英伟达有着深厚的技术储备和护城河,在面对AMDMI300系列为代表的市面上一系列性能参数对标H100的AI加速卡时,英伟达仅仅一年不到便推出了推理性能接近翻倍的H200,而且仅仅更新了HBM3e显存,将显存容量提高了与AMDMI300A相接近的140GB左右,并没有对计算核心有任何升级。2)无论是英伟达Hopper系列产品的加速迭代,还是SC23大会英伟达表示明年会将H100的产量扩大一倍,均印证了AI算力建设的高景气度。HBM或成AI算力与产能瓶颈。英伟达H200系列产品仅仅更新了HBM3e显存便实现了推理性能的翻倍,这也许表明当下计算核心已出现一定程度的冗余,显存成为制约算力释放的核心因素。此外,英伟达表示H200系列于2024年二季度才能完成出货,这或许也是受限于HBM的产能问题。我们认为,以HBM为代表的先进存储产业将会充分受益于AI芯片的升级迭代与AI算力建设的逐步铺开。投资建议:英伟达在AI算力领域继续巩固其核心产品竞争力,但是受限于美国禁令无法出口中国。明年将会是算力建设的大年,我们看好国产AI芯片能够弥补这部分供给缺口,后来居上,国产AI芯片替代或将成为未来几年的产业趋势。我们建议在此阶段重点关注华为昇腾为代表的国产AI芯片产业链:神州数码、软通动力、海光信息、寒武纪、中科曙光、中国长城、英维克等。风险提示:AI技术发展不及预期;国产AI芯片性能不及预期;国产AI芯片产能不及预期;地缘政治风险;行业竞争风险。

免责声明:
1.本站部分作品是由网友自主投稿和发布、编辑整理上传,对此类作品本站仅提供交流平台,不为其版权负责。
2.如发布机构认为违背了您的权益,请与我们联系,我们将对相关资料予以删除。
3.资源付费,仅为我们搜集整理和运营维护费用,感谢您的支持!

合集服务:
单个细分行业的合集获取请联系行研君:hanyanjun830

关于上传者

文档

1014

粉丝

0

关注

0
相关内容
加入星球
开通VIP,可免费下载 立即开通
开通VIP
联系客服 扫一扫

扫一扫
联系在线客服

公众号

扫一扫
关注我们的公众号

在线反馈
返回顶部