信息技术行业动态点评:英伟达发布AI超级计算机,智能算力浪潮汹涌东方财富证券2023-05-31.pdf
摘要:【事项】5月29日,英伟达在当日的COMPUTEX大会推出了NVIDIADGXGH200人工智能(AI)超级计算机,这款计算机由NVIDIAGH200GraceHopper超级芯片和NVIDIANVLinkSwitchSystem提供支持。DGXGH200集成了256颗GH200GraceHopper超级芯片,拥有144TB共享内存,可以为大型生成式人工智能模型以及其他应用提供高达1exaflop的计算能力。英伟达CEO黄仁勋在大会上宣布,公司的GraceHopper超级芯片现已全面投产。黄仁勋表示,DGXGH200AI超级计算机集成了英伟达最先进的加速计算和网络技术,以拓展人工智能的前沿领域。同时,英伟达正致力于使DGXGH200在今年年底上市。谷歌云、Meta和微软将会是首批有望获得DGXGH200访问权的公司。【评论】自去年年底OpenAI发布ChatGPT以来,生成式人工智能逐渐确定成为新趋势,而创建文本、图像、视频等内容需要通过超强算力来实现,算力已经成为AI的刚需,芯片巨头英伟达生产的人工智能芯片在该领域至关重要。此前,英伟达在AI训练端先后推出了V100、A100、H100三款芯片,以及为了满足美国标准,向中国大陆销售的A100和H100的带宽缩减版产品A800和H800。DGXGH200人工智能超级计算平台是英伟达针对最高端的人工智能和高性能计算工作负载而设计的系统和参考架构,目前的DGXA100系统只能将八个A100GPU联合起来作为一个单元,考虑到生成型人工智能的爆炸式增长,英伟达的客户迫切需要更大、更强大的系统,DGXGH200就是为了提供最大的吞吐量和可扩展性而设计的,它通过使用英伟达的定制NVLinkSwitch芯片来避免标准集群连接选项(如InfiniBand和以太网)的限制。通过256块超级芯片组成的DGXGH200显然有着超越前代产品DGXA100的计算能力。而且,英伟达也正在打造基于DGXGH200的大型AI超级计算机NVIDIAHelios,其中采用4个DGXGH200系统、1024颗GraceHopper超级芯片,每个都将与英伟达Quantum-2InfiniBand网络连接,带宽高达400Gb/s,预计于今年年底上线。芯片巨头的算力迭代极其迅速,说明下游云厂商以及企业侧对于生成式AI技术具备强烈需求,相关算力板块(包括GPU、服务器、光模块、数据中心等)有望具备较大业绩弹性。AI芯片是AI算力的根基。需求逐渐爆发,数据海量增长,大模型参数趋多,对计算性能要求愈发严格。GPU相较于CPU,优势在于并行计算。在大会上,黄仁勋向传统CPU服务器集群发起“挑战”,直言在人工智能和加速计算这一未来方向上,GPU服务器有着更为强大的优势。随着需要大量计算能力的AI应用出现,GPU将成为主角,英伟达主导了当前全球AIGPU市场。举例来说,训练一个LLM大语言模型,将需要960个CPU组成的服务器集群,这将耗费大约1000万美元(约合人民币7070万元),并消耗11千兆瓦时的电力。相比之下,同样以1000万美元的成本去组建GPU服务器集群,将以仅3.2千兆瓦时的电力消耗,训练44个LLM大模型。如果同样消耗11千兆瓦时的电量,那么GPU服务器集群能够实现150倍的加速,训练150个LLM大模型,且占地面积更小。而当用户仅仅想训练一个LLM大模型时,则只需要一个40万美元左右,消耗0.13千兆瓦时电力的GPU服务器即可。相比CPU服务器,GPU服务器能够以4%的成本和1.2%的电力消耗来训练一个LLM,这将带来巨大的成本节省。在大模型时代背景和高景气的需求带动下,GPU将会成为算力产业链中至关重要不可或缺的一环。建议关注:算力芯片:景嘉微、寒武纪、海光信息(电子组覆盖)、云天励飞等算力服务:中科曙光、浪潮信息、中国长城等边缘算力:网宿科技、首都在线、润泽科技(未覆盖)、优刻得(未覆盖)等【风险提示】人工智能技术落地应用不及预期;竞争格局恶化;信创不及预期。
免责声明: 1.本站部分作品是由网友自主投稿和发布、编辑整理上传,对此类作品本站仅提供交流平台,不为其版权负责。 2.如发布机构认为违背了您的权益,请与我们联系,我们将对相关资料予以删除。 3.资源付费,仅为我们搜集整理和运营维护费用,感谢您的支持!
合集服务: 单个细分行业的合集获取请联系行研君:hanyanjun830
-
影视传媒行业周报:OpenAI在日本东京设立亚洲办事处,第十四届北京国际电影节开幕 西南证券 2024-04-22(19页) 附下载
投资要点行情回顾:本周,传媒板块表现欠佳,下跌4.48%,跑输创业板约4.09个百分点(创业板指下跌...
2.76 MB共19页中文简体
1天前020积分
-
中国计算机存储设备之DVD行业市场规模测算逻辑模型 头豹词条报告系列 头豹研究院 2024-04-22(14页) 附下载
富强、民主、文明、和谐、自由、平等、公正、法治、爱国、敬业、诚信、友善
982.45 KB共14页中文简体
1天前220积分
-
通信行业周报2024年第16周:移动采购7994台AI服务器,META发布Llama3大模型 国信证券 2024-04-22(25页) 附下载
核心观点行业要闻追踪:运营商智算服务器采购规模持续增长。中国移动4月18日发布2024年至2025年...
1.78 MB共25页中文简体
1天前220积分
-
通信行业周报:台积电AI相关收入快速增长,GPU产品代际切换或引需求波动 国元证券 2024-04-22(10页) 附下载
报告要点:市场整体行情及通信细分板块行情回顾周行情:本周(2024.04.15-2024.04.19...
1.42 MB共10页中文简体
1天前220积分
-
通信行业周报:中移动AI服务器集采,关注海外算力财报指引 中泰证券 2024-04-22(27页) 附下载
投资要点本周沪深300上涨1.89%,创业板下跌0.39%,其中通信板块下跌0.43%,板块价格表现...
882.25 KB共27页中文简体
1天前020积分
-
台积电1Q24业绩:维持公司2024年指引,AI需求保持强劲 浦银国际证券 2024-04-22(8页) 附下载
台积电1Q24业绩符合预期,2Q24收入指引强劲,毛利率指引略低于市场预期。台积电2024年一季度营...
955.32 KB共8页中文简体
1天前220积分
-
AI社交行业深度:强用户粘性、高变现潜力赛道,关注头部产品玩法创新 东吴证券 2024-04-22(31页) 附下载
核心观点AI社交:强用户粘性、高变现潜力赛道。 AI社交核心价值即在于通过AI虚拟角色为人类用户提供...
3.23 MB共31页中文简体
1天前220积分
-
计算机行业:多重因素引致美股剧烈调整,Meta发布最新开源大模型Llama-3 中国银河 2024-04-22(11页) 附下载
股指动态 美股三大指数、 中概股及港股科技、 A 股计算机指数全线下跌。 标普 500 指数-3.0...
1.42 MB共11页中文简体
1天前220积分
-
计算机行业周观点:Meta发布Llama3,世界数字技术院首次发布大模型安全国际标准 万联证券 2024-04-22(10页) 附下载
行业核心观点:上周沪深300指数上涨1.89%,申万计算机行业下跌3.94%,落后于指数5.83pc...
1.22 MB共10页中文简体
1天前220积分
-
计算机行业周报:Adobe携手OpenAI重塑视频编辑生态,Gaudi 3芯片引领AI算力新突破 华鑫证券 2024-04-22(17页) 附下载
投资要点算力:租赁价格稳定,英特尔发布Gaudi3芯片跟踪数据显示,各算力租赁平台的显卡租赁价格环比...
1.15 MB共17页中文简体
1天前220积分
-
计算机行业点评报告:算力景气度跟踪:AI服务器订单一览 中泰证券 2024-04-22(19页) 附下载
富强、民主、文明、和谐、自由、平等、公正、法治、爱国、敬业、诚信、友善
1.12 MB共19页中文简体
1天前020积分
-
计算机行业周报:Llama3发布,开源大模型能力进一步提升 国投证券 2024-04-22(16页) 附下载
Llama3发布,提升开源大模型能力上周四,Meta正式发布了人们等待已久的开源大模型Llama3。...
1.06 MB共16页中文简体
1天前220积分
-
计算机行业周报:发改委表示发展低空经济意义重大,产业链有望受益 甬兴证券 2024-04-22(15页) 附下载
核心观点本周核心观点与重点要闻回顾低空经济:国家发改委表示积极稳妥推动低空经济发展意义重大、前景光明...
760.39 KB共15页中文简体
1天前220积分
-
计算机行业周报:AI板块表现值得期待,关注产业变化机遇 甬兴证券 2024-04-22(14页) 附下载
核心观点本周核心观点与重点要闻回顾秘塔AI交互表现较佳,有望提升AI板块关注度。据金融界,秘塔科技推...
781.72 KB共14页中文简体
1天前220积分
-
计算机行业研究:国家网络空间部队成立,重视网络安全板块投资机会! 国金证券 2024-04-22(4页) 附下载
事件简评2024年4月19日,中国人民解放军信息支援部队成立大会在北京举行,网络空间部队和信息支援部...
652.23 KB共4页中文简体
1天前220积分
-
电子行业周报:联想发布AI PC,AI普惠再下一城 华福证券 2024-04-22(16页) 附下载
投资要点:4月18日,以“AI for All,让世界充满AI”为主题的联想创新科技大会(2024L...
1.92 MB共16页中文简体
1天前120积分
-
计算机行业点评报告:Llama3性能升级,AI应用和算力厂商持续受益 开源证券 2024-04-22(3页) 附下载
事件:Meta发布最新AI模型Llama34月18日,Meta发布最新AI模型Llama3。Llam...
549.09 KB共3页中文简体
1天前220积分
-
电子周跟踪:华为P70系列开售,台积电指引AI需求依旧强劲 山西证券 2024-04-22(14页) 附下载
投资要点市场整体:本周(2024.04.15-2024.04.19)市场普遍下跌。上证指数涨1.52...
1.63 MB共14页中文简体
1天前120积分
-
传媒行业行业专题研究:360AI浏览器:国内首款真智能浏览器 信达证券 2024-04-22(12页) 附下载
360AI搜索与360AI浏览器在大模型应用场景元年率先亮相。2024年1月29日,360集团全新升...
1.48 MB共12页中文简体
1天前220积分
-
电子行业周报:透视海外龙头业绩会,展望AI投资 民生证券 2024-04-22(18页) 附下载
市场回顾本周(4月15日-4月19日)电子板块涨跌幅为-2.6%,相对沪深300指数涨跌幅-4.49...
1.17 MB共18页中文简体
1天前020积分