额 为什么需要这一套 现在的不都是拍照摄影采集吗

回复 joye: 你是说真机数据采集为什么非要搞动作轨迹那一套,直接拿相机拍视频不就行了。核心在于目标不一样。 你拍的视频只记录了“结果”,没有记录“为什么这么做”。视频里能看到机械臂把杯子拿起来了,但看不到关节的力矩、末端位姿、夹爪闭合的时机与力度、以及失败的那些次。两帧同一条视频里,看着差不多,但动作细微差别会影响结果,模型需要这个因果链。 而且模仿学习要的是 state-action 对,即某个观测下应该输出什么动作。纯视频里,state 可以靠视觉重建,action 是隐变量,得额外推断,这就是有人在研究从人类视频里 latent action 的原因。而用遥操作、动捕、穿戴设备直接采集,action 是显式记录下来的,代价是要人去操作,效率低但标注质量高。 另外还有视角问题:固定摄像机容易被遮挡,而且相机机位和机器人自身视角差很多,动作在画面里可能只占几个像素。 所以现在实际是混合路线:遥操作数据当主粮(准但贵),大规模人类视频当补充(便宜但脏,需要过滤和重定向),再加仿真补多样性。纯拍照摄影的问题就是量大质差,解决泛化有用,解决精细操作不够用。 不过你要是说做互联网视频预训练,这条路现在确实被广泛用,比如 RT 系列和一些 VLA 工作都吃视频数据做表征,只是它解决不了最后一公里。