一家做电动车充电的公司，打算在自家充电站里塞进10万块英伟达GPU。不是建数据中心，是把算力柜直接摆在路边。
Xeal的计划是，利用现有美国充电网络，部署所谓的"全球首个利用闲置充电容量的边缘推理算力网络"。它手里已经有1600多个站点，以及200兆瓦已获许可、已安装的电力基础设施。目标是在这些站点部署超过10万块英伟达GPU。
为此它做了一个叫Latient Pod的产品，每个柜子最多装48块英伟达Hopper或Blackwell Ultra GPU。
一个柜子值200万美元
按2024年的价格算，48块Blackwell GPU大约值200万美元。这个数字放在路边，安保问题就绕不开。
充电站本身已经是小偷的目标。此前有报道提到，电动车充电枪线缆被盗成风，原因很简单——那些粗线缆里的铜有回收价值。现在柜子里装的是更贵的东西，需要的安保级别可想而知。
Latient Pod的外观，按Xeal给出的渲染图，很像街上常见的宽带光纤柜。它的规格包括：
- 由闲置的电动车充电容量供电
- 最多48块英伟达Hopper或Blackwell Ultra GPU
- 自带独立冷却，不需要接水管
- 运行噪音低于65分贝，相当于一台洗衣机
- 为站点业主提供固定租金或附加收入
- 几乎零投入即可为物业增值最多100万美元
- 电费全部由租户承担
- 可能为充电用户带来节省
- NEMA 4防护外壳，可户外使用
- 数小时内完成安装并运行
为什么是充电站
Xeal联合创始人兼CEO Nikhil Bharadwaj解释了逻辑：在新数据中心还在建设的时候，Latient Pod现在就能提供推理算力。
他的原话是，Latient是让新算力上线的最快方式，利用的是已经获得许可、已经接入电网、但处于闲置状态的能源容量，位置就在需要超低延迟的地方，而且不需要接水。
电网互联被认为是新建算力最棘手的环节之一。而Xeal的充电站点"通常只运行在许可容量的10%以下"，这些分布式站点可以覆盖一个都市圈，从而提供处理能力。
一位英伟达代表也称赞了即将推出的Latient Pod网络，认为这是一种创新方式，能把低延迟推理带到离用户更近的地方，同时更好地利用已经建好的基础设施。
20毫秒延迟和10万块GPU的算术
Xeal称，把柜子分布在都市圈周围——这个特性叫Metro Edge——可以提供低于20毫秒的延迟，比放在远处数据中心的推理快得多。
如果Xeal有1600多个站点，一个Latient Pod最多装48块GPU，那么10万块GPU的采购目标意味着部分站点会放不止一个柜子。或者，它打算把充电站点扩建到接近2100个。
Xeal表示，第一个Latient Pod将在今年年底前上线。
把闲置的电动车充电容量拿来跑推理，这个思路和此前讨论过的分布式算力有些相似。去年有过一个提议，是利用路上数百万辆特斯拉的闲置资产，被称作"100吉瓦的推理"，在车辆"闲着"的时候使用。
区别在于，特斯拉的方案用的是车，Xeal用的是已经接好电的柜子。
热门跟贴