AI专题:Scale up与Scaleout组网变化趋势如何看?
创始人
2024-09-11 19:58:42
0

今天分享的是:AI专题:Scale up与Scaleout组网变化趋势如何看?

报告共计:24页

《AI深度洞察系列报告(三):Scale up与Scale out组网变化趋势如何看?》由兴业证券发布,主要探讨了AI组网结构的变化趋势及其对算力产业链投资机会的影响。

- Scale up:

- 带宽提升:AI大模型训练采用分布式并行训练架构,其中张量并行对通信要求最高,随着模型规模增加,服务器内带宽需求快速提升,建立更大带宽的超节点成为趋势。

- 规模决定:超节点规模由GPU或云厂商设计决定,英伟达超节点规模不断升级,谷歌通过做大超节点Pod规模降低DCN带宽要求,UALink联盟也在推动超节点规模提升。

- 互联密度:Scale up升级趋势为做大超节点规模,英伟达采用NVL GB200方案和NVLINK协议提升机柜内部互联带宽,采用铜互联方式,长期来看,光互联有望替代铜互联。

- Scale out:

- 集群规模:Scaling Laws法则驱动大模型硬件部署走向更大集群,AI集群规模已进入10万卡阶段,以太网组网在AI集群中的应用加速落地。

- 以太网:字节跳动和Meta等公司已采用以太网搭建AI集群,博通以太网交换芯片不断升级,英伟达也强调以太网方案部署。

- 交换机:Arista针对AI需求提出不同交换机互联方案,交换机端口数提升可推动Scale out规模提升。

- 光模块:光模块总需求与算力需求成正比,保持向上趋势,硅光技术有望从可插拔硅光形式逐步过渡到CPO形式,在1.6T光模块阶段渗透率有望提升。

总之,AI组网走向更大规模集群,Scale up带动节点内部互联需求提升,Scale out推动集群规模扩大,交换机和光模块等相关产业将受益于这些变化。

以下为报告节选内容

相关内容

热门资讯

北京城建集团董事长常永春被查,... 北京城建党委书记、董事长常永春。来源:北京城建集团官网 界面新闻记者 |白帆 近日,北京城建集...
原创 高... 声明:本文内容均引用权威资料结合个人观点进行撰写,文未已标注文献来源,请知悉。 最近,国际投行高盛...
大湾区酒价第15期|习酒窖藏1... 习酒窖藏1988多渠道价格跌至500以下,千元名酒价格小幅回升 今年“双11”,白酒价格波折不断。...
原创 玻... 作者:拉上窗帘 有朋友发来抖音视频,内容是福建曹德旺老板和他的私人飞机。 朋友问作者这是什么飞机? ...
2024年上半年经济总量出炉:... 今年7月份中旬,国家统计局发布了上半年经济情况,上半年GDP总量达到了616836亿元,同比增长5%...
疯狂小杨哥杭州办公总部出租,面... 据媒体报道,疯狂小杨哥杭州办公总部出租的消息引发关注。对此,三只羊集团方面回应称,公司即将搬迁,新地...
TK公会入驻最新行情分析,现在... 随着直播行业的迅猛发展,TikTok娱乐直播公会的入驻程序引起了众多内容创作者的热议。对于希望在这个...
陕西农信兴平联社召开2024年... 为全面总结上半年经营发展情况,深刻剖析问题,科学部署下半年重点工作,8月1日,兴平联社召开2024年...
2024上半年小红书营销:深耕... 近几年,短视频社交媒体平台已成为品牌营销的重要阵地。小红书,凭借其独特的UGC分享社区氛围、人群反漏...
「大算投」超越比特币?比肩以太... 在区块链技术浪潮的澎湃推动下,市场迎来了众多颠覆性创新项目,其中,Aleo以其独到的视野与尖端技术,...