- 説明:
D4RL は、オフライン強化学習用のオープンソース ベンチマークです。トレーニングおよびベンチマーク アルゴリズム用の標準化された環境とデータセットを提供します。
データセットはRLDS 形式に従って、ステップとエピソードを表します。
バージョン:
-
1.0.0
: 初期リリース。 -
1.1.0
(デフォルト): is_last を追加しました。
-
監視キー(
as_supervised
docを参照):None
図( tfds.show_examples ): サポートされていません。
引用:
@misc{fu2020d4rl,
title={D4RL: Datasets for Deep Data-Driven Reinforcement Learning},
author={Justin Fu and Aviral Kumar and Ofir Nachum and George Tucker and Sergey Levine},
year={2020},
eprint={2004.07219},
archivePrefix={arXiv},
primaryClass={cs.LG}
}
d4rl_adroit_pen/v0-human (デフォルト設定)
構成の説明: タスクとそのバージョンの詳細については、 https://github.com/rail-berkeley/d4rl/wiki/Tasks#adroitを参照してください。
ダウンロードサイズ:
1.94 MiB
データセットのサイズ:
2.52 MiB
自動キャッシュ(ドキュメント): はい
分割:
スプリット | 例 |
---|---|
'train' | 50 |
- 機能の構造:
FeaturesDict({
'steps': Dataset({
'action': Tensor(shape=(24,), dtype=float32),
'discount': float32,
'infos': FeaturesDict({
'qpos': Tensor(shape=(30,), dtype=float32),
'qvel': Tensor(shape=(30,), dtype=float32),
}),
'is_first': bool,
'is_last': bool,
'is_terminal': bool,
'observation': Tensor(shape=(45,), dtype=float32),
'reward': float32,
}),
})
- 機能ドキュメント:
特徴 | クラス | 形 | Dタイプ | 説明 |
---|---|---|---|---|
特徴辞書 | ||||
ステップ | データセット | |||
ステップ/アクション | テンソル | (24,) | float32 | |
歩数/割引 | テンソル | float32 | ||
手順/情報 | 特徴辞書 | |||
ステップ/情報/qpos | テンソル | (30,) | float32 | |
ステップ/情報/qvel | テンソル | (30,) | float32 | |
ステップ/is_first | テンソル | ブール | ||
ステップ/is_last | テンソル | ブール | ||
ステップ/is_terminal | テンソル | ブール | ||
ステップ/観察 | テンソル | (45,) | float32 | |
歩数/報酬 | テンソル | float32 |
- 例( tfds.as_dataframe ):
d4rl_adroit_pen/v0-クローン化
構成の説明: タスクとそのバージョンの詳細については、 https://github.com/rail-berkeley/d4rl/wiki/Tasks#adroitを参照してください。
ダウンロードサイズ:
292.85 MiB
データセットのサイズ:
252.55 MiB
自動キャッシュ(ドキュメント): いいえ
分割:
スプリット | 例 |
---|---|
'train' | 5,023 |
- 機能の構造:
FeaturesDict({
'steps': Dataset({
'action': Tensor(shape=(24,), dtype=float32),
'discount': float64,
'infos': FeaturesDict({
'qpos': Tensor(shape=(30,), dtype=float64),
'qvel': Tensor(shape=(30,), dtype=float64),
}),
'is_first': bool,
'is_last': bool,
'is_terminal': bool,
'observation': Tensor(shape=(45,), dtype=float64),
'reward': float64,
}),
})
- 機能ドキュメント:
特徴 | クラス | 形 | Dタイプ | 説明 |
---|---|---|---|---|
特徴辞書 | ||||
ステップ | データセット | |||
ステップ/アクション | テンソル | (24,) | float32 | |
歩数/割引 | テンソル | float64 | ||
手順/情報 | 特徴辞書 | |||
ステップ/情報/qpos | テンソル | (30,) | float64 | |
ステップ/情報/qvel | テンソル | (30,) | float64 | |
ステップ/is_first | テンソル | ブール | ||
ステップ/is_last | テンソル | ブール | ||
ステップ/is_terminal | テンソル | ブール | ||
ステップ/観察 | テンソル | (45,) | float64 | |
歩数/報酬 | テンソル | float64 |
- 例( tfds.as_dataframe ):
d4rl_adroit_pen/v0-expert
構成の説明: タスクとそのバージョンの詳細については、 https://github.com/rail-berkeley/d4rl/wiki/Tasks#adroitを参照してください。
ダウンロードサイズ:
250.13 MiB
データセットのサイズ:
344.41 MiB
自動キャッシュ(ドキュメント): いいえ
分割:
スプリット | 例 |
---|---|
'train' | 5,000 |
- 機能の構造:
FeaturesDict({
'steps': Dataset({
'action': Tensor(shape=(24,), dtype=float32),
'discount': float32,
'infos': FeaturesDict({
'action_logstd': Tensor(shape=(24,), dtype=float32),
'action_mean': Tensor(shape=(24,), dtype=float32),
'qpos': Tensor(shape=(30,), dtype=float32),
'qvel': Tensor(shape=(30,), dtype=float32),
}),
'is_first': bool,
'is_last': bool,
'is_terminal': bool,
'observation': Tensor(shape=(45,), dtype=float32),
'reward': float32,
}),
})
- 機能ドキュメント:
特徴 | クラス | 形 | Dタイプ | 説明 |
---|---|---|---|---|
特徴辞書 | ||||
ステップ | データセット | |||
ステップ/アクション | テンソル | (24,) | float32 | |
歩数/割引 | テンソル | float32 | ||
手順/情報 | 特徴辞書 | |||
ステップ/infos/action_logstd | テンソル | (24,) | float32 | |
ステップ/情報/アクション_平均 | テンソル | (24,) | float32 | |
ステップ/情報/qpos | テンソル | (30,) | float32 | |
ステップ/情報/qvel | テンソル | (30,) | float32 | |
ステップ/is_first | テンソル | ブール | ||
ステップ/is_last | テンソル | ブール | ||
ステップ/is_terminal | テンソル | ブール | ||
ステップ/観察 | テンソル | (45,) | float32 | |
歩数/報酬 | テンソル | float32 |
- 例( tfds.as_dataframe ):
d4rl_adroit_pen/v1-human
構成の説明: タスクとそのバージョンの詳細については、 https://github.com/rail-berkeley/d4rl/wiki/Tasks#adroitを参照してください。
ダウンロードサイズ:
1.95 MiB
データセットのサイズ:
2.60 MiB
自動キャッシュ(ドキュメント): はい
分割:
スプリット | 例 |
---|---|
'train' | 25 |
- 機能の構造:
FeaturesDict({
'steps': Dataset({
'action': Tensor(shape=(24,), dtype=float32),
'discount': float32,
'infos': FeaturesDict({
'desired_orien': Tensor(shape=(4,), dtype=float32),
'qpos': Tensor(shape=(30,), dtype=float32),
'qvel': Tensor(shape=(30,), dtype=float32),
}),
'is_first': bool,
'is_last': bool,
'is_terminal': bool,
'observation': Tensor(shape=(45,), dtype=float32),
'reward': float32,
}),
})
- 機能ドキュメント:
特徴 | クラス | 形 | Dタイプ | 説明 |
---|---|---|---|---|
特徴辞書 | ||||
ステップ | データセット | |||
ステップ/アクション | テンソル | (24,) | float32 | |
歩数/割引 | テンソル | float32 | ||
手順/情報 | 特徴辞書 | |||
ステップ/情報/desired_orien | テンソル | (4,) | float32 | |
ステップ/情報/qpos | テンソル | (30,) | float32 | |
ステップ/情報/qvel | テンソル | (30,) | float32 | |
ステップ/is_first | テンソル | ブール | ||
ステップ/is_last | テンソル | ブール | ||
ステップ/is_terminal | テンソル | ブール | ||
ステップ/観察 | テンソル | (45,) | float32 | |
歩数/報酬 | テンソル | float32 |
- 例( tfds.as_dataframe ):
d4rl_adroit_pen/v1-cloned
構成の説明: タスクとそのバージョンの詳細については、 https://github.com/rail-berkeley/d4rl/wiki/Tasks#adroitを参照してください。
ダウンロードサイズ:
147.89 MiB
データセットのサイズ:
1.43 GiB
自動キャッシュ(ドキュメント): いいえ
分割:
スプリット | 例 |
---|---|
'train' | 3,755 |
- 機能の構造:
FeaturesDict({
'algorithm': string,
'policy': FeaturesDict({
'fc0': FeaturesDict({
'bias': Tensor(shape=(256,), dtype=float32),
'weight': Tensor(shape=(45, 256), dtype=float32),
}),
'fc1': FeaturesDict({
'bias': Tensor(shape=(256,), dtype=float32),
'weight': Tensor(shape=(256, 256), dtype=float32),
}),
'last_fc': FeaturesDict({
'bias': Tensor(shape=(24,), dtype=float32),
'weight': Tensor(shape=(256, 24), dtype=float32),
}),
'nonlinearity': string,
'output_distribution': string,
}),
'steps': Dataset({
'action': Tensor(shape=(24,), dtype=float32),
'discount': float32,
'infos': FeaturesDict({
'desired_orien': Tensor(shape=(4,), dtype=float32),
'qpos': Tensor(shape=(30,), dtype=float32),
'qvel': Tensor(shape=(30,), dtype=float32),
}),
'is_first': bool,
'is_last': bool,
'is_terminal': bool,
'observation': Tensor(shape=(45,), dtype=float32),
'reward': float32,
}),
})
- 機能ドキュメント:
特徴 | クラス | 形 | Dタイプ | 説明 |
---|---|---|---|---|
特徴辞書 | ||||
アルゴリズム | テンソル | 弦 | ||
ポリシー | 特徴辞書 | |||
ポリシー/fc0 | 特徴辞書 | |||
ポリシー/fc0/バイアス | テンソル | (256,) | float32 | |
ポリシー/fc0/重み | テンソル | (45,256) | float32 | |
ポリシー/fc1 | 特徴辞書 | |||
ポリシー/FC1/バイアス | テンソル | (256,) | float32 | |
ポリシー/fc1/重み | テンソル | (256、256) | float32 | |
ポリシー/last_fc | 特徴辞書 | |||
ポリシー/last_fc/バイアス | テンソル | (24,) | float32 | |
ポリシー/last_fc/weight | テンソル | (256, 24) | float32 | |
ポリシー/非線形性 | テンソル | 弦 | ||
ポリシー/出力_配布 | テンソル | 弦 | ||
ステップ | データセット | |||
ステップ/アクション | テンソル | (24,) | float32 | |
歩数/割引 | テンソル | float32 | ||
手順/情報 | 特徴辞書 | |||
ステップ/情報/desired_orien | テンソル | (4,) | float32 | |
ステップ/情報/qpos | テンソル | (30,) | float32 | |
ステップ/情報/qvel | テンソル | (30,) | float32 | |
ステップ/is_first | テンソル | ブール | ||
ステップ/is_last | テンソル | ブール | ||
ステップ/is_terminal | テンソル | ブール | ||
ステップ/観察 | テンソル | (45,) | float32 | |
歩数/報酬 | テンソル | float32 |
- 例( tfds.as_dataframe ):
d4rl_adroit_pen/v1-expert
ダウンロードサイズ:
249.90 MiB
データセットのサイズ:
548.47 MiB
自動キャッシュ(ドキュメント): いいえ
分割:
スプリット | 例 |
---|---|
'train' | 5,000 |
- 機能の構造:
FeaturesDict({
'algorithm': string,
'policy': FeaturesDict({
'fc0': FeaturesDict({
'bias': Tensor(shape=(64,), dtype=float32),
'weight': Tensor(shape=(64, 45), dtype=float32),
}),
'fc1': FeaturesDict({
'bias': Tensor(shape=(64,), dtype=float32),
'weight': Tensor(shape=(64, 64), dtype=float32),
}),
'last_fc': FeaturesDict({
'bias': Tensor(shape=(24,), dtype=float32),
'weight': Tensor(shape=(24, 64), dtype=float32),
}),
'last_fc_log_std': FeaturesDict({
'bias': Tensor(shape=(24,), dtype=float32),
'weight': Tensor(shape=(24, 64), dtype=float32),
}),
'nonlinearity': string,
'output_distribution': string,
}),
'steps': Dataset({
'action': Tensor(shape=(24,), dtype=float32),
'discount': float32,
'infos': FeaturesDict({
'action_log_std': Tensor(shape=(24,), dtype=float32),
'action_mean': Tensor(shape=(24,), dtype=float32),
'desired_orien': Tensor(shape=(4,), dtype=float32),
'qpos': Tensor(shape=(30,), dtype=float32),
'qvel': Tensor(shape=(30,), dtype=float32),
}),
'is_first': bool,
'is_last': bool,
'is_terminal': bool,
'observation': Tensor(shape=(45,), dtype=float32),
'reward': float32,
}),
})
- 機能ドキュメント:
特徴 | クラス | 形 | Dタイプ | 説明 |
---|---|---|---|---|
特徴辞書 | ||||
アルゴリズム | テンソル | 弦 | ||
ポリシー | 特徴辞書 | |||
ポリシー/fc0 | 特徴辞書 | |||
ポリシー/fc0/バイアス | テンソル | (64,) | float32 | |
ポリシー/fc0/重み | テンソル | (64、45) | float32 | |
ポリシー/fc1 | 特徴辞書 | |||
ポリシー/FC1/バイアス | テンソル | (64,) | float32 | |
ポリシー/fc1/重み | テンソル | (64、64) | float32 | |
ポリシー/last_fc | 特徴辞書 | |||
ポリシー/last_fc/バイアス | テンソル | (24,) | float32 | |
ポリシー/last_fc/weight | テンソル | (24、64) | float32 | |
ポリシー/last_fc_log_std | 特徴辞書 | |||
ポリシー/last_fc_log_std/bias | テンソル | (24,) | float32 | |
ポリシー/last_fc_log_std/weight | テンソル | (24、64) | float32 | |
ポリシー/非線形性 | テンソル | 弦 | ||
ポリシー/出力_配布 | テンソル | 弦 | ||
ステップ | データセット | |||
ステップ/アクション | テンソル | (24,) | float32 | |
歩数/割引 | テンソル | float32 | ||
手順/情報 | 特徴辞書 | |||
ステップ/infos/action_log_std | テンソル | (24,) | float32 | |
ステップ/情報/アクション_平均 | テンソル | (24,) | float32 | |
ステップ/情報/desired_orien | テンソル | (4,) | float32 | |
ステップ/情報/qpos | テンソル | (30,) | float32 | |
ステップ/情報/qvel | テンソル | (30,) | float32 | |
ステップ/is_first | テンソル | ブール | ||
ステップ/is_last | テンソル | ブール | ||
ステップ/is_terminal | テンソル | ブール | ||
ステップ/観察 | テンソル | (45,) | float32 | |
歩数/報酬 | テンソル | float32 |
- 例( tfds.as_dataframe ):