mimic_play

  • 説明

14 の長期にわたる操作タスクの実際のデータセット。人間のプレイデータと、同じタスクを実行する単一のロボットアームのデータが混在しています。

スプリット
'train' 378
  • 機能の構造:
FeaturesDict({
    'episode_metadata': FeaturesDict({
        'file_path': string,
    }),
    'steps': Dataset({
        'action': Tensor(shape=(7,), dtype=float32),
        'discount': Scalar(shape=(), dtype=float32),
        'is_first': bool,
        'is_last': bool,
        'is_terminal': bool,
        'language_embedding': Tensor(shape=(512,), dtype=float32),
        'language_instruction': string,
        'observation': FeaturesDict({
            'image': FeaturesDict({
                'front_image_1': Image(shape=(120, 120, 3), dtype=uint8),
                'front_image_2': Image(shape=(120, 120, 3), dtype=uint8),
            }),
            'state': FeaturesDict({
                'ee_pose': Tensor(shape=(7,), dtype=float32),
                'gripper_position': float32,
                'joint_positions': Tensor(shape=(7,), dtype=float32),
                'joint_velocities': Tensor(shape=(7,), dtype=float32),
            }),
            'wrist_image': FeaturesDict({
                'wrist_image': Image(shape=(120, 120, 3), dtype=uint8),
            }),
        }),
        'reward': Scalar(shape=(), dtype=float32),
    }),
})
  • 機能ドキュメント:
特徴クラスDタイプ説明
特徴辞書
エピソード_メタデータ特徴辞書
エピソードメタデータ/ファイルパステンソル
ステップデータセット
ステップ/アクションテンソル(7、) float32
歩数/割引スカラーfloat32
ステップ/is_firstテンソルブール
ステップ/is_lastテンソルブール
ステップ/is_terminalテンソルブール
ステップ/言語_埋め込みテンソル(512,) float32
ステップ/言語説明テンソル
ステップ/観察特徴辞書
手順・観察・イメージ特徴辞書
歩数/観察/画像/front_image_1画像(120、120、3) uint8
歩数/観察/画像/front_image_2画像(120、120、3) uint8
ステップ/観察/状態特徴辞書
歩数/観察/状態/ee_poseテンソル(7、) float32
ステップ/観察/状態/グリッパー位置テンソルfloat32
ステップ/観察/状態/関節位置テンソル(7、) float32
ステップ/観察/状態/関節速度テンソル(7、) float32
歩数/観察/手首画像特徴辞書
歩数/観察/手首画像/手首画像画像(120、120、3) uint8
歩数/報酬スカラーfloat32
  • 引用
@article{wang2023mimicplay,title={Mimicplay: Long-horizon imitation learning by watching human play},author={Wang, Chen and Fan, Linxi and Sun, Jiankai and Zhang, Ruohan and Fei-Fei, Li and Xu, Danfei and Zhu, Yuke and Anandkumar, Anima},journal={arXiv preprint arXiv:2302.12422},year={2023} }