人工智能行业点评：基于英伟达GH200方案的光模块需求弹性测算国信证券 2023-06-05（7页）附下载_行业研究_报告

人工智能行业点评：基于英伟达GH200方案的光模块需求弹性测算国信证券 2023-06-05（7页）附下载

#人工智能 #国信证券

发布机构：国信证券发布时间：2023-06-05大小：380.47 KB页数：共7页上传日期：2023-06-06语言：中文简体

人工智能行业点评：基于英伟达GH200方案的光模块需求弹性测算国信证券2023-06-05.pdf

免费阅读10页，购买之后可查看、下载完整报告

摘要：事项：5月29日，英伟达在COMPUTEX2023展前发布会上，正式发布了全新的GH200GraceHopper超级芯片，以及基于NVIDIANVLinkSwitchSystem驱动的拥有256个GH200超级芯片的NVIDIADGXGH200超级计算机，重点面向开发生成式AI语言应用、推荐系统和数据分析工作负载的下一代模型。国信通信观点：我们从硬件基础设施角度，结合英伟达GH200最新官方指导文件，得到以下几个重要结论：（1）GH200采用两层网络结构，GPU：800G光模块需求比例=1：10.5（2）GH200单卡提供算力处理能力是H100的2倍，同等算力要求下，GH200的800G光模块用量是H100架构两倍以上，800G光模块需求得到明显提升。投资建议：以Chatgpt为代表的AI应用正在得到快速发展，并进行着快速迭代，进而有希望形成赋能多行业的多样化新型应用落地，而以英伟达为代表的GPU厂商通过不断产品迭代推动网络架构升级，GH200更是带来更多800G光模块增量需求。建议重点关注；光模块及光器件、光芯片环节【中际旭创】、【天孚通信】、【新易盛】、【光库科技】、【博创科技】；国内ICT领先企业【紫光股份】、【浪潮信息】、【锐捷网络】、【中兴通讯】、【菲菱科思】；IDC温控企业【英维克】、【申菱环境】；IDC电源端企业：【科华数据】、【科士达】；第三方IDC【奥飞数据】等；同时建议关注【源杰科技】、【长光华芯】、【腾景科技】、【太辰光】、【同飞股份】、【佳力图】等。评论：英伟达GH200：计算和通信性能全面提升根据英伟达GH200发布会信息，GH200超级芯片采用了创新方案，其中使用NVLINKC2C技术将NVVIDIAGraceCPU和NVIDIAH100TensorGPU整合在一个模块上。该技术使得连接速度比传统的PCIe总线速度提升7倍，并减少了5倍互联能耗。通过将CPU和GPU的内存共用，GH200超级芯片供应内存可以达到600GB。对于当下AI部分进展较快的大语言模型训练，对于内存和计算能力、数据之间的通信速度均有较高限制，为了摆脱传统PCIe等方式的限制，英伟达通过自定义的一系列NVLINK技术，提供给用户更高性能方案，具体包括：1）大内存：256个超级芯片互联得到的GH200超级计算机拥有144TB的内存，可以存储更大规模的模型和数据，内存的大小决定了训练处理速度的快慢。2）高带宽互联：在A100和H100方案中，NVLINK技术只用于服务器内部8张GPU卡之间的互联，其中A100的芯片互联带宽为600GBps，H100为900GBps。在GH200系统中，每张SuperChip可以视为一个服务器，同时芯片之间的互联变为通过NVLINKSWITCH来完成，使得系统中的每个GPU都可以用900GBps的速度访问其他GPU，带宽得到明显提升，推动通信侧速度快速提升。

免责声明：
1.本站部分作品是由网友自主投稿和发布、编辑整理上传，对此类作品本站仅提供交流平台，不为其版权负责。
2.如发布机构认为违背了您的权益，请与我们联系，我们将对相关资料予以删除。
3.资源付费，仅为我们搜集整理和运营维护费用，感谢您的支持！

合集服务：
单个细分行业的合集获取请联系行研君：hanyanjun830

上一篇：通信行业动态点评：英伟达推出工业级模块助力边缘AI，重视工业边缘计算产业机遇中邮证券 2023-06-05（5页）附下载

下一篇：社会服务行业双周报（第58期）：“AI+教育”再获政策肯定，峨眉山客流强势复苏国信证券 2023-06-05（14页）附下载

关于上传者

春风正得意

未认证

这家伙很懒，什么都没有填写！

文档

447

粉丝

关注

关注Ta

个人主页

找报告就上搜搜报告

找报告就上搜搜报告