SceneMind如何提速及在低配VPS做实验
来自夹夹 QQ 群讨论,审核后公开 · 。查看原始讨论
SceneMind的延迟瓶颈在Executor串行生成与Critic二轮重跑,提速应从局部重写与前置校验入手;低配实验可将预处理放本地、VPS只留在线入口。
要点
- 仅对可修的证据缺口按claim粒度局部重写并拼接,避免整篇重新生成,同时将证据覆盖率判断前移至Executor阶段。
- Planner与Critic可换用擅长结构化输出的中小模型,并按内容哈希缓存视频索引层以跨目标复用。
- 通过上传后预取与流式输出降低感知等待,帧级并发OCR并按需压小MAX_FRAMES,保持vision caption默认关闭。
- 低配机器做实验无需升级VPS,可在本地完成抽帧与OCR预处理并落盘缓存,后续Prompt与阈值迭代直接复用缓存。
- 线上VPS仅作排队与展示入口,重任务走异步队列或按量实例;切勿为求快关闭Critic或降帧率而破坏可核验性与基线对比。