mimic_play

  • Description :

Ensemble de données réel de 14 tâches de manipulation à long horizon. Un mélange de données sur le jeu humain et de données sur un seul bras de robot effectuant les mêmes tâches.

Diviser Exemples
'train' 378
  • Structure des fonctionnalités :
FeaturesDict({
    'episode_metadata': FeaturesDict({
        'file_path': string,
    }),
    'steps': Dataset({
        'action': Tensor(shape=(7,), dtype=float32),
        'discount': Scalar(shape=(), dtype=float32),
        'is_first': bool,
        'is_last': bool,
        'is_terminal': bool,
        'language_embedding': Tensor(shape=(512,), dtype=float32),
        'language_instruction': string,
        'observation': FeaturesDict({
            'image': FeaturesDict({
                'front_image_1': Image(shape=(120, 120, 3), dtype=uint8),
                'front_image_2': Image(shape=(120, 120, 3), dtype=uint8),
            }),
            'state': FeaturesDict({
                'ee_pose': Tensor(shape=(7,), dtype=float32),
                'gripper_position': float32,
                'joint_positions': Tensor(shape=(7,), dtype=float32),
                'joint_velocities': Tensor(shape=(7,), dtype=float32),
            }),
            'wrist_image': FeaturesDict({
                'wrist_image': Image(shape=(120, 120, 3), dtype=uint8),
            }),
        }),
        'reward': Scalar(shape=(), dtype=float32),
    }),
})
  • Documentation des fonctionnalités :
Fonctionnalité Classe Forme Type D Description
FonctionnalitésDict
épisode_métadonnées FonctionnalitésDict
épisode_metadata/file_path Tenseur chaîne
pas Base de données
étapes/actions Tenseur (7,) flotteur32
étapes/remise Scalaire flotteur32
étapes/is_first Tenseur bouffon
étapes/est_dernier Tenseur bouffon
étapes/is_terminal Tenseur bouffon
étapes/langue_embedding Tenseur (512,) flotteur32
étapes/instruction_langue Tenseur chaîne
étapes/observation FonctionnalitésDict
étapes/observation/image FonctionnalitésDict
étapes/observation/image/front_image_1 Image (120, 120, 3) uint8
étapes/observation/image/front_image_2 Image (120, 120, 3) uint8
étapes/observation/état FonctionnalitésDict
étapes/observation/état/ee_pose Tenseur (7,) flotteur32
étapes/observation/état/gripper_position Tenseur flotteur32
étapes/observation/état/joint_positions Tenseur (7,) flotteur32
étapes/observation/état/joint_velocities Tenseur (7,) flotteur32
étapes/observation/image_poignet FonctionnalitésDict
étapes/observation/wrist_image/wrist_image Image (120, 120, 3) uint8
étapes/récompense Scalaire flotteur32
  • Citation :
@article{wang2023mimicplay,title={Mimicplay: Long-horizon imitation learning by watching human play},author={Wang, Chen and Fan, Linxi and Sun, Jiankai and Zhang, Ruohan and Fei-Fei, Li and Xu, Danfei and Zhu, Yuke and Anandkumar, Anima},journal={arXiv preprint arXiv:2302.12422},year={2023} }