作者:杨文
我们用17个Prompt,实测了一把字节的两大视频天生模型。
字节憋了个大招。
9 月 24 日,字节跳动旗下的火山引擎在深圳办了一场 AI 创新巡展,一口气发布了两款视频天生大模型,正式发布进军 AI 视频天生。
这两款模型,一个名为 PixelDance(以下简称 P 模型),一个名为 Seaweed(以下简称 S 模型),不仅在审美、动幅上提升了一个 level,还破解了多主体互动和同等性难题。
话不多说,先整几个视频让大家感想熏染下:
一位年轻女生微簇眉头,生气地戴上一副墨镜,这时,男主角入画,牢牢抱住了她。
这段 10 秒的镜头中,人物面部表情变革自然,没有任何虚化崩坏。
视频加载中...
再如,一只金毛小狗在草地上追逐泡泡。
(AI 自动配乐)
视频链接:https://mp.weixin.qq.com/s/FlyrUWhePcWhfhNuh7tplA
以及一个 3D 风格的可爱小女孩正在舞蹈。
(AI 自动配乐)
视频链接:https://mp.weixin.qq.com/s/FlyrUWhePcWhfhNuh7tplA
看来,字节这次是把攒了许久的绝活儿,一股脑全倒出来了。
目前,新款豆包视频天生模型正在即梦 AI 内测版小范围测试,未来将逐步开放给所有用户。
我们也在第一韶光拿到内测资格,接下来,就奉上新鲜出炉的一手实测。
解锁多动作、多主体
目前,市情上大部分视频天生模型,只能完成大略指令或者单一动作。而这次,豆包视频天生模型一顿升级,不仅可以遵照繁芜 Prompt,还能捕捉多动作序列和主体互动。
例如,梵高站在自己的画作前,捂嘴大笑起来,脸上的褶子都清晰可见;随即又秒变严明,手缓缓落下,捋捋自己的小胡子。
整套动作行云流水,表情自然逼真。
视频链接:https://mp.weixin.qq.com/s/FlyrUWhePcWhfhNuh7tplA
再比如,我们输入 Prompt:两名宇航员行走在夜晚繁华的街道上。
视频链接:https://mp.weixin.qq.com/s/FlyrUWhePcWhfhNuh7tplA
两名身穿宇航服的航天员,一前一后溜达在繁华街道上,身后人来人往,两侧的建筑亮起了绚丽的灯光和店招。
众所周知,AI 最随意马虎犯的毛病之一,便是旁边腿不分,或者惊现四条腿。
而在豆包视频模型中,二人走路姿势正常,险些与真人无异,没有模糊、扭曲,也没有涌现各种诡异画面。
我们还输入了一段形容词贼多的 Prompt:一只蜗牛在雨后的森林地面上缓缓爬行,它身后留下一条闪闪发光的粘液轨迹。蜗牛的触角谨慎地移动着,它的壳的每一段都有风雅的纹理。一个摄像机跟踪着蜗牛的缓慢旅程。镜头非常靠近,以至于蜗牛壳和身体上的水点清晰可见,地面的细节也展现得非常清楚。
豆包模型天生的视频中,蜗牛优柔的躯体缓慢向后蠕动,触角也随之扭捏。硬硬的壳上有着风雅的纹理,上面还沾着眇小的水珠。
由于是特写镜头,森林的背景自然虚化,而雨后地面的水洼则清晰可见。
Prompt:许多水母在水下贱动,它们的身体透明,在深海中发着光。
画面中涌现了大大小小的透明水母,它们轻轻伸开伞盖,再牢牢紧缩,触手也在水中自由摆动。
Prompt:写实,一个小女孩吹生日烛炬,然后笑了。
镜头中,一个头戴寿星帽的小女孩,张着嘴巴吹烛炬,脸上露出微笑。同时,身后的亲友团,或鼓掌、或拍照。该视频中的人物不仅多元,动幅也很大。
动作灵巧,运镜酷炫
这次豆包视频模型还有一大特点 —— 镜头多样。
变焦、环抱、平摇、缩放、目标跟随等超多镜头措辞,它都能灵巧掌握视角,而且视频细节更丰满,表情更丰富。
Prompt:一个推进镜头,沿着树木成行的郊区住宅街道拍摄,白天,天空晴朗湛蓝,色彩饱和,比拟度高。
随着镜头缓慢推进,干净的街道、树木掩映的成排小别墅映入眼帘,画面中还展示了精良的光影效果。
Prompt: 北极光在北极天空中舞动,星星闪烁,白雪覆盖的景不雅观的延时拍照。
天空舞动的极光,在雪地上映射出相应的颜色。豆包模型天生的这段延时拍照,切实其实和记录片拍摄的一模一样。
我们还试了下图生视频,上传图片后,输入 Prompt:金鱼游动,水中冒着气泡。
别看这个 Prompt 大略, 豆包模型的「脑回路」却繁芜得很。不仅完美遵照笔墨指令,还学会了摇镜头。
视频链接:https://mp.weixin.qq.com/s/FlyrUWhePcWhfhNuh7tplA
画面一开始,水缸中的金鱼开始游动,并伴随着大量气泡。随后,镜头一拉,现出女孩全身,她在水中缓缓转过身,发丝和宽松的衣摆在水中的漂浮感,以及头顶露出水面的状态,豆包模型均捕捉到位。
此外,豆包视频模型还采取全新设计的扩散模型演习方法,成功占领了多镜头切换时难以保持同等性的困扰,可 10 秒讲述一个起承转合的故事。
比如,用它天生一段睡美人的故事。
视频链接:https://mp.weixin.qq.com/s/FlyrUWhePcWhfhNuh7tplA
睡美人躺在床上陷入沉睡,窗外的小鸟叽叽喳喳也吵不醒她,这时一位王子俯下身吻了睡美人,试图唤醒她。
在这个 prompt 中,涉及多个镜头的切换,但主体、风格、氛围和逻辑仍能保持同等性。
审美高等,风格多变
豆包新模型采取深度优化的 Transformer 构造,大幅提升了视频天生的泛化能力,黑白、3D 动画、2D 动画、国画、厚涂等多种风格,它通通支持。
比如,一只戴着墨镜颇具喜感的北极熊,蹬着四只爪子在海里畅游,水面上泛起微波,乃至还折射出了北极熊的影子。
(Prompt: 戴着墨镜的北极熊在海里拍浮。)
再来个动画风格的。
身穿灰色时尚卫衣的猫咪,迈着「六亲不认」的步伐,走在星光闪耀的 T 台上。
个中,猫咪眨巴着眼睛,毛发和衣服褶皱处理得也相称逼真,胸前的两根衣带也能随着步伐而摆动。
视频链接:https://mp.weixin.qq.com/s/FlyrUWhePcWhfhNuh7tplA
(Prompt:一只拟人小猫正在 T 台上走秀。)
呆萌二哈一身潮范儿,头戴棒球帽,手端咖啡杯,仰开始,伸开嘴,就将其一饮而尽,随后,P 模型发挥想象力,让二哈顺手将咖啡杯放置在两侧的椅子上,整套动作行云流水,很是流畅自然。
视频链接:https://mp.weixin.qq.com/s/FlyrUWhePcWhfhNuh7tplA
(Prompt:二哈正在喝咖啡。)
阳光明媚,树影斑驳,两只拟人化的企鹅,戴着 Fashion 的墨镜,舒畅地坐在沙滩椅上晒着日光浴,时时时还唠上两句磕儿。
(Prompt:动画风格,两只拟人化的企鹅,戴着墨镜,坐在沙滩椅上晒太阳。)
两只卡哇伊的毛绒小怪物,摇头晃脑地跳着舞,画风有种迪士尼的觉得。
豆包视频模型对付细节的把握也是相称到位,比如小怪物晃动身体时,头上的毛发也会随之起舞等。
(Prompt:两只毛茸茸的微型可爱怪物,正在舞蹈,3D 渲染,Octane,柔和的照明,梦幻般的散景效果,电影感。)
小猫晃动着爪子,和小熊猫玩亲亲,细节层次丰富,光影随着主体运动而变革,大幅提升画面视觉审美。
(Prompt:小猫和小熊猫愉快地跳着,然后拥抱在一起。)
不仅如此,我们还可以拿它制作广告大片。
例如,先通过即梦的文生图功能,搞出一张喷鼻香水的商品图。
然后再通过图生视频功能,输入 Prompt:蓝色的烟雾缓缓升起。
效果如下:
大家以为豆包视频天生模型水平咋样呢?来评论区聊聊吧。