d4rl_mujoco_halfcheetah

• 설명 :

D4RL은 오프라인 강화 학습을 위한 오픈 소스 벤치마크입니다. 이는 훈련 및 벤치마킹 알고리즘을 위한 표준화된 환경과 데이터세트를 제공합니다.

데이터 세트는 RLDS 형식을 따라 단계와 에피소드를 나타냅니다.

• 구성 설명 : https://github.com/rail-berkeley/d4rl/wiki/Tasks#gym 에서 작업 및 해당 버전에 대한 자세한 내용을 확인하세요.

• 홈페이지 : https://sites.google.com/view/d4rl-anonymous

• 소스 코드 : tfds.d4rl.d4rl_mujoco_halfcheetah.D4rlMujocoHalfcheetah

• 버전 :

  • 1.0.0 : 최초 릴리스.
  • 1.0.1 : 에피소드 및 단계 메타데이터를 지원하고 모든 구성에서 보상 형태를 통합합니다.
  • 1.1.0 : is_last가 추가되었습니다.
  • 1.2.0 (기본값): 다음 관찰을 고려하도록 업데이트되었습니다.

• 감독되는 키 ( as_supervised doc 참조): None

• 그림 ( tfds.show_examples ): 지원되지 않습니다.

• 인용 :

@misc{fu2020d4rl,
    title={D4RL: Datasets for Deep Data-Driven Reinforcement Learning},
    author={Justin Fu and Aviral Kumar and Ofir Nachum and George Tucker and Sergey Levine},
    year={2020},
    eprint={2004.07219},
    archivePrefix={arXiv},
    primaryClass={cs.LG}
}

d4rl_mujoco_halfcheetah/v0-expert (기본 구성)

• 다운로드 크기 : 83.44 MiB

• 데이터세트 크기 : 98.43 MiB

• 자동 캐시 ( 문서 ): 예

• 분할 :

• 기능 구조 :

FeaturesDict({
    'steps': Dataset({
        'action': Tensor(shape=(6,), dtype=float32),
        'discount': float32,
        'is_first': bool,
        'is_last': bool,
        'is_terminal': bool,
        'observation': Tensor(shape=(17,), dtype=float32),
        'reward': float32,
    }),
})

• 기능 문서 :

• 예 ( tfds.as_dataframe ):

d4rl_mujoco_halfcheetah/v0-medium

• 다운로드 크기 : 82.92 MiB

• 데이터세트 크기 : 98.43 MiB

• 자동 캐시 ( 문서 ): 예

• 분할 :

• 기능 구조 :

FeaturesDict({
    'steps': Dataset({
        'action': Tensor(shape=(6,), dtype=float32),
        'discount': float32,
        'is_first': bool,
        'is_last': bool,
        'is_terminal': bool,
        'observation': Tensor(shape=(17,), dtype=float32),
        'reward': float32,
    }),
})

• 기능 문서 :

• 예 ( tfds.as_dataframe ):

d4rl_mujoco_halfcheetah/v0-medium-expert

• 다운로드 크기 : 166.36 MiB

• 데이터세트 크기 : 196.86 MiB

• 자동 캐시 ( 문서 ): shuffle_files=False 인 경우에만(학습)

• 분할 :

• 기능 구조 :

FeaturesDict({
    'steps': Dataset({
        'action': Tensor(shape=(6,), dtype=float32),
        'discount': float32,
        'is_first': bool,
        'is_last': bool,
        'is_terminal': bool,
        'observation': Tensor(shape=(17,), dtype=float32),
        'reward': float32,
    }),
})

• 기능 문서 :

• 예 ( tfds.as_dataframe ):

d4rl_mujoco_halfcheetah/v0-혼합

• 다운로드 크기 : 8.60 MiB

• 데이터세트 크기 : 9.94 MiB

• 자동 캐시 ( 문서 ): 예

• 분할 :

• 기능 구조 :

FeaturesDict({
    'steps': Dataset({
        'action': Tensor(shape=(6,), dtype=float32),
        'discount': float32,
        'is_first': bool,
        'is_last': bool,
        'is_terminal': bool,
        'observation': Tensor(shape=(17,), dtype=float32),
        'reward': float32,
    }),
})

• 기능 문서 :

• 예 ( tfds.as_dataframe ):

d4rl_mujoco_halfcheetah/v0-random

• 다운로드 크기 : 84.79 MiB

• 데이터세트 크기 : 98.43 MiB

• 자동 캐시 ( 문서 ): 예

• 분할 :

• 기능 구조 :

FeaturesDict({
    'steps': Dataset({
        'action': Tensor(shape=(6,), dtype=float32),
        'discount': float32,
        'is_first': bool,
        'is_last': bool,
        'is_terminal': bool,
        'observation': Tensor(shape=(17,), dtype=float32),
        'reward': float32,
    }),
})

• 기능 문서 :

• 예 ( tfds.as_dataframe ):

d4rl_mujoco_halfcheetah/v1-전문가

• 다운로드 크기 : 146.94 MiB

• 데이터세트 크기 : 451.88 MiB

• 자동 캐시 ( 문서 ): 아니요

• 분할 :

• 기능 구조 :

FeaturesDict({
    'algorithm': string,
    'iteration': int32,
    'policy': FeaturesDict({
        'fc0': FeaturesDict({
            'bias': Tensor(shape=(256,), dtype=float32),
            'weight': Tensor(shape=(256, 17), dtype=float32),
        }),
        'fc1': FeaturesDict({
            'bias': Tensor(shape=(256,), dtype=float32),
            'weight': Tensor(shape=(256, 256), dtype=float32),
        }),
        'last_fc': FeaturesDict({
            'bias': Tensor(shape=(6,), dtype=float32),
            'weight': Tensor(shape=(6, 256), dtype=float32),
        }),
        'last_fc_log_std': FeaturesDict({
            'bias': Tensor(shape=(6,), dtype=float32),
            'weight': Tensor(shape=(6, 256), dtype=float32),
        }),
        'nonlinearity': string,
        'output_distribution': string,
    }),
    'steps': Dataset({
        'action': Tensor(shape=(6,), dtype=float32),
        'discount': float32,
        'infos': FeaturesDict({
            'action_log_probs': float32,
            'qpos': Tensor(shape=(9,), dtype=float32),
            'qvel': Tensor(shape=(9,), dtype=float32),
        }),
        'is_first': bool,
        'is_last': bool,
        'is_terminal': bool,
        'observation': Tensor(shape=(17,), dtype=float32),
        'reward': float32,
    }),
})

• 기능 문서 :

• 예 ( tfds.as_dataframe ):

d4rl_mujoco_halfcheetah/v1-medium

• 다운로드 크기 : 146.65 MiB

• 데이터세트 크기 : 451.88 MiB

• 자동 캐시 ( 문서 ): 아니요

• 분할 :

• 기능 구조 :

FeaturesDict({
    'algorithm': string,
    'iteration': int32,
    'policy': FeaturesDict({
        'fc0': FeaturesDict({
            'bias': Tensor(shape=(256,), dtype=float32),
            'weight': Tensor(shape=(256, 17), dtype=float32),
        }),
        'fc1': FeaturesDict({
            'bias': Tensor(shape=(256,), dtype=float32),
            'weight': Tensor(shape=(256, 256), dtype=float32),
        }),
        'last_fc': FeaturesDict({
            'bias': Tensor(shape=(6,), dtype=float32),
            'weight': Tensor(shape=(6, 256), dtype=float32),
        }),
        'last_fc_log_std': FeaturesDict({
            'bias': Tensor(shape=(6,), dtype=float32),
            'weight': Tensor(shape=(6, 256), dtype=float32),
        }),
        'nonlinearity': string,
        'output_distribution': string,
    }),
    'steps': Dataset({
        'action': Tensor(shape=(6,), dtype=float32),
        'discount': float32,
        'infos': FeaturesDict({
            'action_log_probs': float32,
            'qpos': Tensor(shape=(9,), dtype=float32),
            'qvel': Tensor(shape=(9,), dtype=float32),
        }),
        'is_first': bool,
        'is_last': bool,
        'is_terminal': bool,
        'observation': Tensor(shape=(17,), dtype=float32),
        'reward': float32,
    }),
})

• 기능 문서 :

• 예 ( tfds.as_dataframe ):

d4rl_mujoco_halfcheetah/v1-medium-expert

• 다운로드 크기 : 293.00 MiB

• 데이터세트 크기 : 342.37 MiB

• 자동 캐시 ( 문서 ): 아니요

• 분할 :

• 기능 구조 :

FeaturesDict({
    'steps': Dataset({
        'action': Tensor(shape=(6,), dtype=float32),
        'discount': float32,
        'infos': FeaturesDict({
            'action_log_probs': float32,
            'qpos': Tensor(shape=(9,), dtype=float32),
            'qvel': Tensor(shape=(9,), dtype=float32),
        }),
        'is_first': bool,
        'is_last': bool,
        'is_terminal': bool,
        'observation': Tensor(shape=(17,), dtype=float32),
        'reward': float32,
    }),
})

• 기능 문서 :

• 예 ( tfds.as_dataframe ):

d4rl_mujoco_halfcheetah/v1-medium-replay

• 다운로드 크기 : 57.68 MiB

• 데이터세트 크기 : 34.59 MiB

• 자동 캐시 ( 문서 ): 예

• 분할 :

• 기능 구조 :

FeaturesDict({
    'algorithm': string,
    'iteration': int32,
    'steps': Dataset({
        'action': Tensor(shape=(6,), dtype=float64),
        'discount': float64,
        'infos': FeaturesDict({
            'action_log_probs': float64,
            'qpos': Tensor(shape=(9,), dtype=float64),
            'qvel': Tensor(shape=(9,), dtype=float64),
        }),
        'is_first': bool,
        'is_last': bool,
        'is_terminal': bool,
        'observation': Tensor(shape=(17,), dtype=float64),
        'reward': float64,
    }),
})

• 기능 문서 :

• 예 ( tfds.as_dataframe ):

d4rl_mujoco_halfcheetah/v1-전체 재생

• 다운로드 크기 : 285.01 MiB

• 데이터세트 크기 : 171.22 MiB

• 자동 캐시 ( 문서 ): shuffle_files=False 인 경우에만(학습)

• 분할 :

• 기능 구조 :

FeaturesDict({
    'algorithm': string,
    'iteration': int32,
    'steps': Dataset({
        'action': Tensor(shape=(6,), dtype=float64),
        'discount': float64,
        'infos': FeaturesDict({
            'action_log_probs': float64,
            'qpos': Tensor(shape=(9,), dtype=float64),
            'qvel': Tensor(shape=(9,), dtype=float64),
        }),
        'is_first': bool,
        'is_last': bool,
        'is_terminal': bool,
        'observation': Tensor(shape=(17,), dtype=float64),
        'reward': float64,
    }),
})

• 기능 문서 :

• 예 ( tfds.as_dataframe ):

d4rl_mujoco_halfcheetah/v1-random

• 다운로드 크기 : 145.19 MiB

• 데이터세트 크기 : 171.18 MiB

• 자동 캐시 ( 문서 ): shuffle_files=False 인 경우에만(학습)

• 분할 :

• 기능 구조 :

FeaturesDict({
    'steps': Dataset({
        'action': Tensor(shape=(6,), dtype=float32),
        'discount': float32,
        'infos': FeaturesDict({
            'action_log_probs': float32,
            'qpos': Tensor(shape=(9,), dtype=float32),
            'qvel': Tensor(shape=(9,), dtype=float32),
        }),
        'is_first': bool,
        'is_last': bool,
        'is_terminal': bool,
        'observation': Tensor(shape=(17,), dtype=float32),
        'reward': float32,
    }),
})

• 기능 문서 :

• 예 ( tfds.as_dataframe ):

d4rl_mujoco_halfcheetah/v2-전문가

• 다운로드 크기 : 226.46 MiB

• 데이터세트 크기 : 451.88 MiB

• 자동 캐시 ( 문서 ): 아니요

• 분할 :

• 기능 구조 :

FeaturesDict({
    'algorithm': string,
    'iteration': int32,
    'policy': FeaturesDict({
        'fc0': FeaturesDict({
            'bias': Tensor(shape=(256,), dtype=float32),
            'weight': Tensor(shape=(256, 17), dtype=float32),
        }),
        'fc1': FeaturesDict({
            'bias': Tensor(shape=(256,), dtype=float32),
            'weight': Tensor(shape=(256, 256), dtype=float32),
        }),
        'last_fc': FeaturesDict({
            'bias': Tensor(shape=(6,), dtype=float32),
            'weight': Tensor(shape=(6, 256), dtype=float32),
        }),
        'last_fc_log_std': FeaturesDict({
            'bias': Tensor(shape=(6,), dtype=float32),
            'weight': Tensor(shape=(6, 256), dtype=float32),
        }),
        'nonlinearity': string,
        'output_distribution': string,
    }),
    'steps': Dataset({
        'action': Tensor(shape=(6,), dtype=float32),
        'discount': float32,
        'infos': FeaturesDict({
            'action_log_probs': float64,
            'qpos': Tensor(shape=(9,), dtype=float64),
            'qvel': Tensor(shape=(9,), dtype=float64),
        }),
        'is_first': bool,
        'is_last': bool,
        'is_terminal': bool,
        'observation': Tensor(shape=(17,), dtype=float32),
        'reward': float32,
    }),
})

• 기능 문서 :

• 예 ( tfds.as_dataframe ):

d4rl_mujoco_halfcheetah/v2-전체 재생

• 다운로드 크기 : 277.88 MiB

• 데이터세트 크기 : 171.22 MiB

• 자동 캐시 ( 문서 ): shuffle_files=False 인 경우에만(학습)

• 분할 :

• 기능 구조 :

FeaturesDict({
    'algorithm': string,
    'iteration': int32,
    'steps': Dataset({
        'action': Tensor(shape=(6,), dtype=float32),
        'discount': float32,
        'infos': FeaturesDict({
            'action_log_probs': float64,
            'qpos': Tensor(shape=(9,), dtype=float64),
            'qvel': Tensor(shape=(9,), dtype=float64),
        }),
        'is_first': bool,
        'is_last': bool,
        'is_terminal': bool,
        'observation': Tensor(shape=(17,), dtype=float32),
        'reward': float32,
    }),
})

• 기능 문서 :

• 예 ( tfds.as_dataframe ):

d4rl_mujoco_halfcheetah/v2-medium

• 다운로드 크기 : 226.71 MiB

• 데이터세트 크기 : 451.88 MiB

• 자동 캐시 ( 문서 ): 아니요

• 분할 :

• 기능 구조 :

FeaturesDict({
    'algorithm': string,
    'iteration': int32,
    'policy': FeaturesDict({
        'fc0': FeaturesDict({
            'bias': Tensor(shape=(256,), dtype=float32),
            'weight': Tensor(shape=(256, 17), dtype=float32),
        }),
        'fc1': FeaturesDict({
            'bias': Tensor(shape=(256,), dtype=float32),
            'weight': Tensor(shape=(256, 256), dtype=float32),
        }),
        'last_fc': FeaturesDict({
            'bias': Tensor(shape=(6,), dtype=float32),
            'weight': Tensor(shape=(6, 256), dtype=float32),
        }),
        'last_fc_log_std': FeaturesDict({
            'bias': Tensor(shape=(6,), dtype=float32),
            'weight': Tensor(shape=(6, 256), dtype=float32),
        }),
        'nonlinearity': string,
        'output_distribution': string,
    }),
    'steps': Dataset({
        'action': Tensor(shape=(6,), dtype=float32),
        'discount': float32,
        'infos': FeaturesDict({
            'action_log_probs': float64,
            'qpos': Tensor(shape=(9,), dtype=float64),
            'qvel': Tensor(shape=(9,), dtype=float64),
        }),
        'is_first': bool,
        'is_last': bool,
        'is_terminal': bool,
        'observation': Tensor(shape=(17,), dtype=float32),
        'reward': float32,
    }),
})

• 기능 문서 :

• 예 ( tfds.as_dataframe ):

d4rl_mujoco_halfcheetah/v2-medium-expert

• 다운로드 크기 : 452.58 MiB

• 데이터세트 크기 : 342.37 MiB

• 자동 캐시 ( 문서 ): 아니요

• 분할 :

• 기능 구조 :

FeaturesDict({
    'steps': Dataset({
        'action': Tensor(shape=(6,), dtype=float32),
        'discount': float32,
        'infos': FeaturesDict({
            'action_log_probs': float64,
            'qpos': Tensor(shape=(9,), dtype=float64),
            'qvel': Tensor(shape=(9,), dtype=float64),
        }),
        'is_first': bool,
        'is_last': bool,
        'is_terminal': bool,
        'observation': Tensor(shape=(17,), dtype=float32),
        'reward': float32,
    }),
})

• 기능 문서 :

• 예 ( tfds.as_dataframe ):

d4rl_mujoco_halfcheetah/v2-medium-replay

• 다운로드 크기 : 56.69 MiB

• 데이터세트 크기 : 34.59 MiB

• 자동 캐시 ( 문서 ): 예

• 분할 :

• 기능 구조 :

FeaturesDict({
    'algorithm': string,
    'iteration': int32,
    'steps': Dataset({
        'action': Tensor(shape=(6,), dtype=float32),
        'discount': float32,
        'infos': FeaturesDict({
            'action_log_probs': float64,
            'qpos': Tensor(shape=(9,), dtype=float64),
            'qvel': Tensor(shape=(9,), dtype=float64),
        }),
        'is_first': bool,
        'is_last': bool,
        'is_terminal': bool,
        'observation': Tensor(shape=(17,), dtype=float32),
        'reward': float32,
    }),
})

• 기능 문서 :

• 예 ( tfds.as_dataframe ):

d4rl_mujoco_halfcheetah/v2-random

• 다운로드 크기 : 226.34 MiB

• 데이터세트 크기 : 171.18 MiB

• 자동 캐시 ( 문서 ): shuffle_files=False 인 경우에만(학습)

• 분할 :

• 기능 구조 :

FeaturesDict({
    'steps': Dataset({
        'action': Tensor(shape=(6,), dtype=float32),
        'discount': float32,
        'infos': FeaturesDict({
            'action_log_probs': float64,
            'qpos': Tensor(shape=(9,), dtype=float64),
            'qvel': Tensor(shape=(9,), dtype=float64),
        }),
        'is_first': bool,
        'is_last': bool,
        'is_terminal': bool,
        'observation': Tensor(shape=(17,), dtype=float32),
        'reward': float32,
    }),
})

• 기능 문서 :

• 예 ( tfds.as_dataframe ):