一条5秒的480P视频,在Mac上完全本地生成,耗时仅30秒。没有CUDA,没有云端依赖,内存占用3.9 GiB。这是FastMetal项目刚刚公布的成绩。
这个项目把FastWan-QAD系列模型带到了Apple Silicon平台。DiT架构、DMD采样器和解码器,全部通过MLX框架跑在Metal上,默认采用INT8量化。也就是说,从模型推理到视频解码,整条链路都在Mac本地完成,不需要调用任何外部算力。
三个模型档位,按需选择
FastMetal一共提供三个模型:1.3B参数版本支持480P分辨率,适合快速出片;5B参数版本支持720P,画质和速度相对均衡;14B参数版本面向高质量输出,适合对画面细节有更高要求的场景。
三个模型都跑在本地,用户可以根据自己的Mac配置和生成需求灵活切换。对于开发者来说,这意味着视频生成的工作流可以完全脱离云端API,数据不出本机。
技术细节:INT8量化与MLX框架
项目默认采用INT8量化,这解释了为什么14B模型也能在Mac上运行。MLX是Apple生态下的机器学习框架,FastMetal利用它把FastWan-QAD的推理过程映射到Metal GPU上。DMD采样器负责加速采样步骤,解码器则负责把潜空间表示还原成可见的视频帧。
从公开信息看,整个流程在30秒内完成一条5秒视频的生成,内存占用控制在3.9 GiB。这个数字对于本地视频生成来说相当克制,意味着即使是内存配置不高的Mac也有机会跑起来。
代码与模型已开源
项目代码托管在GitHub的hao-ai-lab仓库下,模型权重发布在Hugging Face的FastMetal集合页,博客文章详细记录了实现思路。开发者可以直接拉取代码,在本地复现这个流程。
对于Mac用户来说,这可能是目前最轻量的本地视频生成方案之一。不需要折腾CUDA环境,不需要租云GPU,一台Mac就能完成从文本到视频的生成闭环。
如果你手头有Apple Silicon设备,不妨试试把这三个模型跑一遍,看看生成效果和速度是否符合预期。
热门跟贴