大家好,我是最近在死磕镜头的冷逸。
一直以来,AI视频的运镜基本都押在Prompt上。但从文字描述到大模型理解后生成视频,这里面包含了太多不可控的因素。
最近我试了试用3D白模做视频,给大家看看效果。
3D白模动画作为参考视频,控制分镜中的动作、走位、运镜和空间结构。然后拿给AI当画面骨架,再给它上色、渲染,这样就得到了一支精准控制的视频成片。
在以前,这类白模只能通过专业工具Blender或者在ComfyUI中搭建工作流来完成。动不动就是好几个月的学习周期,这对于新手来说,门槛实在是太高了。
不过,好消息是:B站的updream.cn上线了「预演台」功能。
不用安装任何软件和插件,就可以快速直出白模视频。上面这条视频,就是用它做的。
我一共测了三组短片,下面带大家沉浸式体验一下制作过程,以及过程中我都踩了哪些坑。
一手实测
1)多机位切换
为了熟悉界面和操作,我先给自己挑了个最难的。
我尝试做一个哈利波特风格入学列车到站的短片,给大家看看。
在这组片子里,我没有提供任何的分镜图,全是通过「白模视频+人物+场景+提示词」来搞定的。
一个没有任何导演经验的人,在updream里硬拉出几个非常不专业的镜头,但完全没想到,成片效果竟然还不错。白模+Seedance2.5的组合技,能让镜头一致性控制非常好。
来看实操演示。
先在updream预演台中点击“创建场景”,上传几张参考的场景图。等待4-7分钟后,就得到了一个由场景复刻的3D白模空间。
这个建模的速度和精准度,确实强。
这活放以前,得找建模师做好几天。现在,只要几分钟,一个简单的白模场景就做好了。
你可以自由的在这个工作台里添加人物、机位。
并且通过关键帧来控制运动轨迹。最后,录制成你的白模参考视频。
不过,如果你是第一次用,建议选择室外开阔类型的场景,这样更好操控一些。
我这次挑的是火车车厢场景,室内建模比较丰富,导致我一开始花了很多时间去摸索。
另外,镜头想要足够干净,一定要尽可能地避免运镜过程中的穿墙或者障碍物遮挡。
如果遇到有类似一键跟随的镜头,也可以直接到机位里选对应的片段进行特写跟踪。
点击播放,在视图右上角就可以看到当前画面的实时预览。
那同样一组提示词和素材,去掉白模呢,效果又如何?
来看下对比。
可以看到,同样是30s短片,如果不使用白模,只是通过提示词驱动的画面,模型在镜头上就很容易有自己的想法。
虽然提示词里,我们可以告诉AI这是近景、中景还是远景,但究竟人物距离摄像机有多远,如果没有分镜参考图,那就只能靠模型自由发挥了。
没了白模的画面参考,人物的位置关系很容易乱。后期想再改起来,非常费劲。
2)一镜到底
学会了搭白模后,接下来最爽的玩法来了。
当我们把动作、运镜、站位全锁死,只换参考图,就可以让同一段白模跑出三个完全不一样的世界。
这次我直接换了一个一镜到底的旋转运镜镜头,剧情是一对夫妻,一边推着自己的车一边争吵着上山。
我顺手用SD2.0试了两个不同风格的白模版本,带大家看一下非SD2.5模型在白模上的效果究竟如何。
SD2.0白模视频1:
SD2.0白模视频2:
可以看到,SD2.0的白模表现并不如意。两次的风格,无论是车,还是人,都出现了非常明显的bug。要不是车里多了个人,要不就是分不清车头、车尾。
同样的提示词,我又用MinimaxH3跑了一版没有白模版本的画面。
u1s1,没有白模能跑出这个效果,算不错的了。除了人物走路的姿势略有一点不自然外,没有其他特别明显的错误和变形。
那,这个丝滑的运镜到底是怎么来的呢?其实是一笔画来的!
找到你时间轴上的空白机位,点击「绘制轨迹」,然后左键按住鼠标就可以直接在场景里拖一条机位线出来。
绕着车拖一个圈,再选中所有的关键帧,把机位属性里的「看向」绑到人物上。
机位就会沿着这个圈走,同时镜头始终对着人物。一镜到底的环绕运镜就这么出来了。
旁边还有个「标记轨迹」,是用来给关键帧打点的。想让运镜中途变速、或者绕到一半停一下再走,记得多打几个关键帧。
再说个机位面板里的细节,我觉得这块挺有诚意。
它给的不是一个简单的摄像机镜头点位,而是类似一台专业的摄影设备。
甚至可以根据你的需求,改摄影机类型、镜头类型、焦距和光圈 f/2.8等。
最后,聊一下我理解的白模的边界。
目前,平台自动生成的白模类型只有几何体。天空、远处的山、雾,这些没形状的东西它确实给不了。上一组案例就比较明显,白模里的车窗是漆黑一片,因为窗外本来就没有模型。
因此,涉及到大量细节的视频,还得靠场景参考图或者提示词来补。
3)多人物镜头调度
为了给预演台的建模功能上点难度,也为了测试一下updream在3D模型上的边界。
最后一组,我选了一个超高难度的场景——一座不规则的废土风建筑。
上传后,几分钟后拿到了3d模型。
说实话,跟实际画面的场景相比,细看还是会发现一些瑕疵。
但这种复杂度的不规则建筑,已经能还原成这样,真的算不错了。
带着这个版本的白模来试试效果。
可以看到,最终成片参考了白模的机位和人物位置。镜头在不同机位间切换,场景一点都没有崩,人物也完全站在设定好的位置上。
可如果没有白模,就不那么乐观了。
虽然大模型听懂了我们的镜头位置要求,也确实把机位架在了类似的点位上。但失去白模参考后,人物和画面间的一致性全乱了,差别非常明显。
三组片子跑完,对我来说,抽卡次数确实有被实实在在的降低。
当然,白模参考也会增加视频生成的成本。但这个成本的付出,能不能帮我们减少抽卡次数,最终还得取决于提示词质量和对工具的熟练运用上。
给大家算笔账。如果以720p的30s短片为例,平均每条视频只抽2-3次计算,那价格大概在60-80左右。
另外,对新手小白来说,预演台依然存在一些上手门槛。比如本文这几条片子,在镜头的把控上,就费了我好些时间。
只是相比Blender这些专业工具来说,updream的预演台已经方便了不少。
不管是没有建模基础的个人创作者、传统影视从业者还是精品AI视频工作室,现在都可以通过3D白模来解决AI视频的精细化创作难题。
哦对了,最近updream搞了个「预演台白模创作千万积分挑战赛」,8月17日至30日,奖励积分还挺多的。
如果你有了一些好的创作想法,不妨来试试。试完回来评论区告诉我,你的体验如何。
热门跟贴