主题
先拍白模,再上 AI:17 版迭代后,我的 AI 视频工作流定型了
先说结论:AI 视频不可控,根因是缺一个确定性的时空参考。我用 17 个版本验证了一条本机工作流——Blender 渲白模(约 10 秒/5 秒镜头)→ H3 参考生视频(6~8 分钟/5 秒)→ 照片级成片,单段全链路约 7 分钟。伪影的根因,最后锁定在一根细圆柱上。
一、问题:提示词控制不了动作和运镜
写「两人交手、镜头环绕、第三秒推近」的提示词,模型每次结果都不一样:动作节点偏移、镜头节奏随机、该切镜时不切。改十遍,十个样。
不是提示词不够好——语言适合描述「是什么」,不适合描述「在第几秒、以什么轨迹移动」。
电影行业早就有答案:预演(previz)——先用灰色几何体把走位、镜头、节奏拍死,再拍正式镜头。这套思路来自一篇讲「AI 导演」的公开文章,我在本机复刻:只不过「正式拍摄」交给了 H3。
二、工作流:三步,三件套
第一步:Blender 白模(脚本化,无 GUI)
用 bpy 脚本搭场景、排相机轨迹,headless 渲染。参数:
- 引擎 Workbench,颜色 OBJECT+FLAT(纯色平光)
- 960×544 / 24fps / 120 帧(5 秒),渲染耗时约 10 秒
- 场景规则(防伪影):不放细圆柱手臂、天空用浅色、动作放慢
顺带说安装:这台 ARM 机器装 Blender 比用 Blender 费劲——源码编译卡在依赖构建 88%,最后用 apt-get download + dpkg -x 解包 55 个 deb(约 92MB)跑通 4.0.2;必须设 BLENDER_SYSTEM_SCRIPTS,否则 core dump。
第二步:角色参考图
两张写实角色图(对应白模里的两个角色),本机千问图像模型生成,约 30 秒/张。第五版才加上——没有参考图就没有照片感:纯白模会把「灰模质感」带进成片,前四版全是水墨插画风。
第三步:H3 参考生视频
把白模视频和两张参考图一起送进 MiniMax H3 参考版(ComfyUI,turbo 4-step LoRA):
- 白模视频 → 抽帧 →
ref_videos.ref_video_0(时空参考) - 角色图 →
ref_images.ref_image_0/1(形象参考) - 输出 960×544 / 5 秒 / 含原生音频,耗时 6~8 分钟
实测提示词模板:
Use the two men from <Picture 1>/<Picture 2> as the fighters (faces, hair, costumes match exactly).
<Video 1> is a grey clay previz: copy ONLY its motion, blocking and camera.
Clean frame: no ink, no brush strokes, no black smoke, no particle effects, no text.
Preserve character positions, motion trajectories, camera movement and shot timing from <Video 1>.关键三句:Picture 1/2 的人当角色(锁形象);Video 1 是白模,只抄运动、站位、相机;画面要干净——无墨迹、无笔触、无烟雾、无粒子特效、无文字。
三、伪影追凶:13 版控制变量,凶手是一根圆柱
加上参考图后画面「像了」,但出现一团黑色伪影:像浓墨、像黑烟,只在动作快的帧出现,位置飘忽。换种子、写「不要墨迹」都没用。
从第 5 版到第 17 版,13 个版本都在抓它。方法笨但有效——控制变量:
- 白模阴影太重?改纯色平光——伪影还在
- 深色天空被误读?改浅色——还在
- 手臂挥动太快?定住不动——还在
- 两人贴太近?拉开距离——还在
四个假设全灭后,做了个更直接的实验:把白模里的手臂整个删掉——伪影一下轻了大半。
根因清楚了:白模里那根细长圆柱手臂,被 H3 读成了笔或武器,于是「认真地」加了一笔黑色特效。 它不是画错——是在加戏。
最终解法是三件套:
- 白模去掉独立手臂——用肩部方块代替,手臂让模型自己长
- 动作改慢——从快打改成太极式推手
- 提示词明确排除特效——no ink / no brush strokes / no black smoke / no particle effects
第 17 版:零伪影,照片级,动作、运镜和我的白模对得上。
四、时间账与边界
- 白模渲染:约 10 秒 / 5 秒镜头(Workbench 引擎)
- H3 参考生视频:6~8 分钟 / 5 秒(参考 token 参与每步采样,比纯文生视频慢)
- 单段全链路:约 7 分钟;成本=电费(全程本机,0 API 费用)
边际成本约等于电费,我才敢连跑 17 版抓伪影;按云端套餐计费,每一版都是真金白银。
边界:单案例——5 秒、单镜头、武侠场景。长镜头、多切镜、复杂动作还没覆盖;换场景、换模型版本,结果可能不同。
五、可复用清单
- 白模用脚本搭(bpy + headless),别用 GUI 手搭——迭代要可复现
- 渲染用 Workbench + 纯色平光:5 秒镜头约 10 秒渲完
- 白模里不放三样东西:细圆柱手臂、深色天空、快速动作——都会诱发重绘
- 角色参考图必须有,否则画面出不来写实感(前四版水墨风就是教训)
- 提示词三件套:参考图锁形象 + 「只抄 Video 1 的运动」 + 排除特效清单
- 出现伪影按控制变量法排查,顺序:手臂动画 → 角色交叠 → 手臂几何 → 深色区域
- 修复优先级:去手臂几何 > 慢动作 > 提示词排除特效(换种子/浅色天空只能减轻,不能根除)
一句话总结这条工作流:把时空调度权交给几何,把风格交给语言和参考图。