点赞关注转发明日涨停
10%+20%+30%
最近最难受的事情一个是霍尔木兹海峡的开开关关,第二个就是Q1的财报和大家的展望以及技术面带来的波动了
其实最近在openclaw催化后,gpt的图形模型也是很大的突破
ai的驱动仍未停歇
还有谷歌的大会带来的新预期,我们今天一起看
一、谷歌新一代 TPU 芯片深度解析:光模块与 OCS 需求迎来爆发式增长
Virgo ⽹络拓扑及⾼达 4 倍的数据中⼼⽹络提升:为了⽀持TPU 8t 海量的数据需求,我们引⼊了 Virgo ⽹络。这种全新的⽹络架构使 TPU 8t 在数据中⼼⽹络(DCN)上的训练带宽提升了⾼达 4 倍。
与上⼀代相⽐,TPU 8t 的芯⽚间互连(ICI)扩展带宽提升了 2倍,原始扩展(scale-out)DCN 带宽提升了⾼达 4 倍,从⽽⼤幅减少了数据瓶颈。此外,为了进⼀步加速前沿模型的开发,我们将分布式训练扩展到了单个集群之外。借助 JAX 和Pathways,我们现在可以在单个训练集群中扩展到超过 100 万个 TPU 芯⽚。
Virgo ⽹络可以在单个架构中连接超过 134,000 个TPU 8t 芯⽚,提供⾼达 47 PB/s 的⽆阻塞对分带宽。该架构可提供超过 160 万 ExaFlops 的算⼒,并具有近乎线性的扩展性能。
根据市场信息的总结如下
TPU 8t 作为大规模训练专用芯片,从芯片直连到集群扩展实现了全方位升级,核心分为 Scale Up 与 Scale Out 两大维度:
Scale Up(芯片内 / 集群内直连)
沿用升级版 3D Torus 环形拓扑,优化芯片间直连链路,单 SuperPod 超节点芯片规模从 9216 颗扩容至 9600 颗,共享内存池达 2PB。
单芯片 ICI 互联带宽提升至 9.6T(6 1.6T),带宽较前代翻倍,1.6T 光模块开始在训练场景大规模应用,卡比维持 1:1.5 不变,9600 卡集群约需 48 台 320 320 端口 OCS。
Scale Out(跨集群扩展)
采用全新 Virgo 两层无阻塞扁平化网络替代前代拓扑,单芯片横向扩展带宽从 100Gbps 跃升至 400Gbps,整体数据中心网络带宽提升 4 倍。
规模上限突破至单数据中心 13.4 万颗 TPU,跨站点可扩展至百万级 TPU 集群,单 13 万卡集群将产生 13 万 400G FR4 端口,对应 200 台 320*320 端口 OCS 交换机,800G/1.6T 光模块随带宽与集群规模同步扩容
配套升级:全浸没式 + CDU 集中液冷架构全面升级,支撑高密度算力集群稳定运行。
TPU 8i 聚焦低延迟推理场景,采用专属 Boardfly 拓扑架构,大幅优化推理数据转发效率,同样从 Scale Up 与 Scale Out 两大维度实现突破:
- Scale Up(推理集群内优化)
采用全新分层 Boardfly 专属拓扑:4 颗 TPU 组成 1 个 BB 单元,8 个 BB 通过铜线组成 Group,36 个 Group 经 OCS 互联,单 SuperPod 超节点芯片规模从 256 颗跃升至 1152 颗,FP8 算力提升 8.67 倍,HBM 容量提升 5.74 倍。
网络直径从 16 跳降至 7 跳,大幅降低 MoE 模型专家路由与推理数据转发时延,完美适配低延迟推理核心需求;单卡拥有 9.6T ICI 带宽,1.6T 光模块卡比为 1:1.25,1152 卡集群约需 5 台 320*320 端口 OCS 交换机。
- Scale Out(推理集群扩展)
基于 Boardfly 拓扑延伸,搭配 OCS 光路交换实现动态链路重构,可直接连接任意机柜,OCS 用量显著增加,支撑推理集群灵活扩展。
- 配套升级
:采用分区浸没式 + 模块化液冷架构 + CDU 分区设计,按 Boardfly Group 做独立液冷分区,保障推理集群高密度稳定运行。
最后是数量关系,我用ai做了表格
核心对比与结论
训练侧(TPU 8t):
芯片直连场景,1.6T 光模块卡比维持 1:1.5不变,只是速率从 800G 升级到 1.6T;
集群扩展场景,带宽提升 4 倍,带动光模块配比从 1:1 提升至1:2.5,是训练场景的核心增量来源。
推理侧(TPU 8i):
推理芯片的 1.6T 光模块卡比为 1:1.25,低于训练侧的 1:1.5,但单集群规模大幅提升(256 卡→1152 卡),且 OCS 互联带来额外端口需求,整体用量依然显著增长。
所以今天的一些扰动有点没必要。。。。。。。。。
大家耐心等待今晚xys业绩即可,而且,q1的业绩,其实也不重要!
给大家看看最近图片大模型的实力吧
很强,学设计的直接嘎巴一下脆了。。。。。。。。。。。。。。
ai只会越来越强
很多人抱怨说抱团没有轮动,我只能说抱团也是一致性的一种体现吧
但是恶心的地方在于,有位老师很猛的来了个发言
emmmmmmmmmmmmmmmm
最后希望大家关注一下催化和预期
最近呢,虽然利好只为美股服务,但是我们不气馁,面对结果投资即可
祝各位投资顺利
感谢您的点赞在看以及特别关注!
涨停
微信公众号:小枫枫同学
小红书:小枫枫同学
知识星球
调研纪要、会议录音
事件驱动、盘中作文
减少信息差就在此刻
两新人朋友同时进入务必
联系枫枫获得6.5折
祝您明日投资顺利,买入即涨停!
热门跟贴