Investigación en aprendizaje robótico: modelos VLA, imitación y datos

Aprendizaje por imitación: empieza por la demostración

Lo primero es mirar con qué se entrena. La comparación entre video egocéntrico y teleoperación explica por qué pesa tanto. Si grabas una demostración con la interfaz de control de un robot, cada observación queda atada a una acción de ese robot. El video de actividad humana muestra a una persona, y es el método de aprendizaje el que decide qué hacer con esas imágenes.

El artículo de ACT, Learning Fine-Grained Bimanual Manipulation with Low-Cost Hardware, entrena por imitación con demostraciones reales grabadas mediante una interfaz de teleoperación propia. Su método, Action Chunking with Transformers, aprende secuencias de acciones. El resultado vale para ese hardware y esas tareas. No demuestra que las demostraciones resuelvan cualquier problema de control.

Cuando revises un artículo de imitación, anota de dónde salen las demostraciones, qué flujos de observación hay, cómo se define una acción y cuál es la tarea. Con eso a mano puedes ver si lo que cambió fue la arquitectura, los datos o la evaluación. Sin ese contexto, no lleves un resultado publicado a tu propio caso.

Modelos de visión, lenguaje y acción, y modelos generalistas para robots

RT-2 estudia cómo llevar el preentrenamiento en visión y lenguaje al control de robots. Escribe las acciones del robot como tokens de texto y hace un ajuste fino conjunto con trayectorias de robots y tareas web de visión y lenguaje. Los datos de acción del robot siguen en la receta, al lado de los datos de la web.

OpenVLA es un VLA abierto entrenado con demostraciones de robots reales, y el artículo prueba cómo adaptarlo a entornos nuevos. El artículo de π0 monta una arquitectura de flow matching sobre un modelo preentrenado de visión y lenguaje, y entrena con datos de varias plataformas robóticas. Son diseños distintos y sus recetas no se pueden intercambiar.

Octo es una política generalista basada en transformers. Le puedes dar instrucciones en lenguaje o con una imagen de meta, y se adapta a nuevos espacios de observación y acción. "Política generalista para robots" nombra un objetivo más amplio que cualquier formato de tokens de acción. Ten a mano la definición de cada artículo y no supongas que todos los modelos fundacionales para robots usan la misma interfaz.

Una línea de tiempo breve para leer

Cada año corresponde a la primera versión preliminar del artículo. La tabla no es un ranking y deja fuera lo que vino después. Los métodos y la evaluación están en las versiones citadas.

Léelos en este orden: primero la señal de aprendizaje, después la mezcla de datos y al final la adaptación y la evaluación. Un método más nuevo no tiene por qué funcionar mejor en tu tarea.

Los datasets detrás de los modelos

Open X-Embodiment reúne datos de 22 robots en formatos estandarizados y estudia cómo aprender políticas que sirvan para robots distintos. Lo que contiene es experiencia de robots. Las grabaciones en primera persona de gente haciendo sus actividades son otra categoría, así que sepáralas cuando describas lo que vio una política preentrenada.

DROID presenta un dataset de manipulación con robots reales grabado en escenas y tareas variadas, y pone el alcance de la recolección en el centro de la discusión. Si vas a comprar, pregunta qué tareas, entornos y observaciones coinciden con tu experimento. Que dos datasets lleven la etiqueta de "robótica" dice muy poco.

Las colecciones de actividad humana son otra categoría de datos, que cubre la comparación de datasets egocéntricos públicos. El panorama de los datos para entrenar robots muestra cómo ambas caben en un mismo plan de entrenamiento, cada una con su función.

Dónde encaja el video humano

R3M preentrena una representación visual con Ego4D y después la usa para aprender políticas de robots. VIP aprende recompensas y representaciones visuales a partir de video humano. Son dos usos distintos del video humano: la representación decide cómo se codifican las imágenes y la recompensa mide cuánto se avanzó hacia una meta.

MimicPlay aprende planes a partir del juego libre de personas y los combina con un control de bajo nivel entrenado con demostraciones teleoperadas. Tenlo en cuenta al leer el resultado. El video humano es una parte del sistema, y el controlador se entrena con datos de teleoperación.

La guía sobre cómo aprenden los robots del video humano explica estos papeles con más detalle. Si tu duda es la perspectiva de la cámara, empieza por qué es el video egocéntrico. Grabar en primera persona no hace que unos datos sirvan, y la etiqueta VLA tampoco.

Lee un resultado antes de convertirlo en un requisito de datos

1. 01

   Lista los insumos

   Separa los datos web de visión y lenguaje, el video humano y las demostraciones con robots.

2. 02

   Nombra la salida

   Anota si el método produce acciones, rasgos visuales, recompensas o planes de alto nivel.

3. 03

   Revisa la adaptación

   Registra las demostraciones específicas de la tarea o el ajuste fino que hagan falta después del preentrenamiento.

4. 04

   Lee la evaluación

   Revisa el robot, las tareas, las condiciones iniciales y la definición de éxito.

5. 05

   Escribe la prueba propuesta

   Especifica qué mantendría fijo tu experimento y qué cambiarían los datos adicionales.

Errores comunes

• Ordenar artículos por sus cifras más llamativas sin revisar antes si sus tareas, hardware y protocolos de evaluación se pueden comparar.
• Decir que un preentrenamiento es "solo con video" cuando el método también usa demostraciones con robots.
• Creer que un modelo abierto te da permiso sobre sus datos. Los términos del modelo y los del dataset se revisan por separado.
• Comprar una categoría vaga. Una solicitud de datos de video tiene que decir el objetivo de aprendizaje y las observaciones que necesitas antes de hablar de volumen.

Preguntas