在Azure上跑AI负载,第一反应往往是"给我来一块H100"。但真正该先回答的问题不是选哪张卡,而是:你到底需不需要自己的GPU。
这是Azure AI landing zone系列的第二篇。作者把上GPU之前该核对的事项列了一遍,从计费模式到配额机制,再到成本护栏,覆盖的是一条完整的决策链,而不是单一型号的选型建议。
先分清四种算力路径
要不要自建GPU,取决于你选哪条路。文章给出的选项包括:Foundry的按token付费、PTU、托管计算,以及自建虚拟机或AKS。这四种模式的差别在于,你把成本和运维责任放在哪一端。
按token付费和PTU属于托管侧,自建VM或AKS则意味着你要自己管硬件和调度。选之前先想清楚负载是持续稳定还是波峰波谷,这直接决定哪种模式更划算。
配额不是申请就有
Azure的GPU配额按vCPU家族管理,不是笼统的一个"GPU额度"。文章提到可以用三条命令核对现状:az vm list-usage、az quota和az vm list-skus。
这三条命令分别对应不同层面的信息:用量、配额上限、以及各区域可用的SKU。先查清楚再提需求,比直接开口要H100更有效率。文章同时梳理了当前Azure的GPU VM家族,以及哪些型号已经退役——退役型号意味着即使配额够,也拿不到机器。
折扣机制各自保什么
Spot、容量预留、预留实例和节省计划,这四种机制经常被混为一谈,但它们实际保障的东西并不相同。文章逐一说明了各自到底保证了什么,这一点在预算测算时容易被忽略。
成本护栏方面,文章给出的做法是用Azure Policy做策略约束,按标签设置预算,以及停掉闲置的GPU。闲置GPU是AI负载里最常见的浪费来源,停掉它不需要任何技术判断,只需要一条规则。
另有一条时间点值得记下:区域VM价格上调将在2027年2月1日生效。做长期成本模型时,这个日期之后的单价不能按现价算。
配套的Bicep示例包含策略和预算两部分,可以直接拿来改。整套流程的逻辑很清晰:先确认是否需要自建,再查配额和可用型号,然后用折扣机制和护栏控制成本,最后把未来的涨价因素算进去。
热门跟贴