- Descripción :
D4RL es un punto de referencia de código abierto para el aprendizaje por refuerzo fuera de línea. Proporciona entornos y conjuntos de datos estandarizados para algoritmos de entrenamiento y evaluación comparativa.
Los conjuntos de datos siguen el formato RLDS para representar pasos y episodios.
Descripción de la configuración : vea más detalles sobre la tarea y sus versiones en https://github.com/rail-berkeley/d4rl/wiki/Tasks#adroit
Página de inicio : https://sites.google.com/view/d4rl-anonymous
Código fuente :
tfds.d4rl.d4rl_adroit_door.D4rlAdroitDoor
Versiones :
-
1.0.0
: versión inicial. -
1.1.0
(predeterminado): agregado is_last.
-
Claves supervisadas (ver documento
as_supervised
):None
Figura ( tfds.show_examples ): no compatible.
Citación :
@misc{fu2020d4rl,
title={D4RL: Datasets for Deep Data-Driven Reinforcement Learning},
author={Justin Fu and Aviral Kumar and Ofir Nachum and George Tucker and Sergey Levine},
year={2020},
eprint={2004.07219},
archivePrefix={arXiv},
primaryClass={cs.LG}
}
d4rl_adroit_door/v0-human (configuración predeterminada)
Tamaño de descarga :
2.97 MiB
Tamaño del conjunto de datos :
3.36 MiB
Almacenamiento en caché automático ( documentación ): Sí
Divisiones :
Dividir | Ejemplos |
---|---|
'train' | 50 |
- Estructura de características :
FeaturesDict({
'steps': Dataset({
'action': Tensor(shape=(28,), dtype=float32),
'discount': float32,
'infos': FeaturesDict({
'qpos': Tensor(shape=(30,), dtype=float32),
'qvel': Tensor(shape=(30,), dtype=float32),
}),
'is_first': bool,
'is_last': bool,
'is_terminal': bool,
'observation': Tensor(shape=(39,), dtype=float32),
'reward': float32,
}),
})
- Documentación de funciones :
Característica | Clase | Forma | tipo D | Descripción |
---|---|---|---|---|
FuncionesDict | ||||
pasos | Conjunto de datos | |||
pasos/acción | Tensor | (28,) | flotador32 | |
pasos/descuento | Tensor | flotador32 | ||
pasos/información | FuncionesDict | |||
pasos/información/qpos | Tensor | (30,) | flotador32 | |
pasos/información/qvel | Tensor | (30,) | flotador32 | |
pasos/es_primero | Tensor | booleano | ||
pasos/es_último | Tensor | booleano | ||
pasos/es_terminal | Tensor | booleano | ||
pasos/observación | Tensor | (39,) | flotador32 | |
pasos/recompensa | Tensor | flotador32 |
- Ejemplos ( tfds.as_dataframe ):
d4rl_adroit_door/v0-clonado
Tamaño de descarga :
602.42 MiB
Tamaño del conjunto de datos :
497.47 MiB
Almacenamiento en caché automático ( documentación ): No
Divisiones :
Dividir | Ejemplos |
---|---|
'train' | 6.214 |
- Estructura de características :
FeaturesDict({
'steps': Dataset({
'action': Tensor(shape=(28,), dtype=float32),
'discount': float64,
'infos': FeaturesDict({
'qpos': Tensor(shape=(30,), dtype=float64),
'qvel': Tensor(shape=(30,), dtype=float64),
}),
'is_first': bool,
'is_last': bool,
'is_terminal': bool,
'observation': Tensor(shape=(39,), dtype=float64),
'reward': float64,
}),
})
- Documentación de funciones :
Característica | Clase | Forma | tipo D | Descripción |
---|---|---|---|---|
FuncionesDict | ||||
pasos | Conjunto de datos | |||
pasos/acción | Tensor | (28,) | flotador32 | |
pasos/descuento | Tensor | flotador64 | ||
pasos/información | FuncionesDict | |||
pasos/información/qpos | Tensor | (30,) | flotador64 | |
pasos/información/qvel | Tensor | (30,) | flotador64 | |
pasos/es_primero | Tensor | booleano | ||
pasos/es_último | Tensor | booleano | ||
pasos/es_terminal | Tensor | booleano | ||
pasos/observación | Tensor | (39,) | flotador64 | |
pasos/recompensa | Tensor | flotador64 |
- Ejemplos ( tfds.as_dataframe ):
d4rl_adroit_door/v0-experto
Tamaño de descarga :
511.05 MiB
Tamaño del conjunto de datos :
710.30 MiB
Almacenamiento en caché automático ( documentación ): No
Divisiones :
Dividir | Ejemplos |
---|---|
'train' | 5.000 |
- Estructura de características :
FeaturesDict({
'steps': Dataset({
'action': Tensor(shape=(28,), dtype=float32),
'discount': float32,
'infos': FeaturesDict({
'action_logstd': Tensor(shape=(28,), dtype=float32),
'action_mean': Tensor(shape=(28,), dtype=float32),
'qpos': Tensor(shape=(30,), dtype=float32),
'qvel': Tensor(shape=(30,), dtype=float32),
}),
'is_first': bool,
'is_last': bool,
'is_terminal': bool,
'observation': Tensor(shape=(39,), dtype=float32),
'reward': float32,
}),
})
- Documentación de funciones :
Característica | Clase | Forma | tipo D | Descripción |
---|---|---|---|---|
FuncionesDict | ||||
pasos | Conjunto de datos | |||
pasos/acción | Tensor | (28,) | flotador32 | |
pasos/descuento | Tensor | flotador32 | ||
pasos/información | FuncionesDict | |||
pasos/información/action_logstd | Tensor | (28,) | flotador32 | |
pasos/información/acción_media | Tensor | (28,) | flotador32 | |
pasos/información/qpos | Tensor | (30,) | flotador32 | |
pasos/información/qvel | Tensor | (30,) | flotador32 | |
pasos/es_primero | Tensor | booleano | ||
pasos/es_último | Tensor | booleano | ||
pasos/es_terminal | Tensor | booleano | ||
pasos/observación | Tensor | (39,) | flotador32 | |
pasos/recompensa | Tensor | flotador32 |
- Ejemplos ( tfds.as_dataframe ):
d4rl_adroit_door/v1-humano
Tamaño de descarga :
2.98 MiB
Tamaño del conjunto de datos :
3.42 MiB
Almacenamiento en caché automático ( documentación ): Sí
Divisiones :
Dividir | Ejemplos |
---|---|
'train' | 25 |
- Estructura de características :
FeaturesDict({
'steps': Dataset({
'action': Tensor(shape=(28,), dtype=float32),
'discount': float32,
'infos': FeaturesDict({
'door_body_pos': Tensor(shape=(3,), dtype=float32),
'qpos': Tensor(shape=(30,), dtype=float32),
'qvel': Tensor(shape=(30,), dtype=float32),
}),
'is_first': bool,
'is_last': bool,
'is_terminal': bool,
'observation': Tensor(shape=(39,), dtype=float32),
'reward': float32,
}),
})
- Documentación de funciones :
Característica | Clase | Forma | tipo D | Descripción |
---|---|---|---|---|
FuncionesDict | ||||
pasos | Conjunto de datos | |||
pasos/acción | Tensor | (28,) | flotador32 | |
pasos/descuento | Tensor | flotador32 | ||
pasos/información | FuncionesDict | |||
pasos/información/door_body_pos | Tensor | (3,) | flotador32 | |
pasos/información/qpos | Tensor | (30,) | flotador32 | |
pasos/información/qvel | Tensor | (30,) | flotador32 | |
pasos/es_primero | Tensor | booleano | ||
pasos/es_último | Tensor | booleano | ||
pasos/es_terminal | Tensor | booleano | ||
pasos/observación | Tensor | (39,) | flotador32 | |
pasos/recompensa | Tensor | flotador32 |
- Ejemplos ( tfds.as_dataframe ):
d4rl_adroit_door/v1-clonado
Tamaño de descarga :
280.72 MiB
Tamaño del conjunto de datos :
1.85 GiB
Almacenamiento en caché automático ( documentación ): No
Divisiones :
Dividir | Ejemplos |
---|---|
'train' | 4.358 |
- Estructura de características :
FeaturesDict({
'algorithm': string,
'policy': FeaturesDict({
'fc0': FeaturesDict({
'bias': Tensor(shape=(256,), dtype=float32),
'weight': Tensor(shape=(39, 256), dtype=float32),
}),
'fc1': FeaturesDict({
'bias': Tensor(shape=(256,), dtype=float32),
'weight': Tensor(shape=(256, 256), dtype=float32),
}),
'last_fc': FeaturesDict({
'bias': Tensor(shape=(28,), dtype=float32),
'weight': Tensor(shape=(256, 28), dtype=float32),
}),
'nonlinearity': string,
'output_distribution': string,
}),
'steps': Dataset({
'action': Tensor(shape=(28,), dtype=float32),
'discount': float32,
'infos': FeaturesDict({
'door_body_pos': Tensor(shape=(3,), dtype=float32),
'qpos': Tensor(shape=(30,), dtype=float32),
'qvel': Tensor(shape=(30,), dtype=float32),
}),
'is_first': bool,
'is_last': bool,
'is_terminal': bool,
'observation': Tensor(shape=(39,), dtype=float32),
'reward': float32,
}),
})
- Documentación de funciones :
Característica | Clase | Forma | tipo D | Descripción |
---|---|---|---|---|
FuncionesDict | ||||
algoritmo | Tensor | cadena | ||
política | FuncionesDict | |||
política/fc0 | FuncionesDict | |||
política/fc0/sesgo | Tensor | (256,) | flotador32 | |
política/fc0/peso | Tensor | (39, 256) | flotador32 | |
política/fc1 | FuncionesDict | |||
política/fc1/sesgo | Tensor | (256,) | flotador32 | |
política/fc1/peso | Tensor | (256, 256) | flotador32 | |
política/último_fc | FuncionesDict | |||
política/last_fc/sesgo | Tensor | (28,) | flotador32 | |
política/last_fc/peso | Tensor | (256, 28) | flotador32 | |
política/no linealidad | Tensor | cadena | ||
política/distribución_salida | Tensor | cadena | ||
pasos | Conjunto de datos | |||
pasos/acción | Tensor | (28,) | flotador32 | |
pasos/descuento | Tensor | flotador32 | ||
pasos/información | FuncionesDict | |||
pasos/información/door_body_pos | Tensor | (3,) | flotador32 | |
pasos/información/qpos | Tensor | (30,) | flotador32 | |
pasos/información/qvel | Tensor | (30,) | flotador32 | |
pasos/es_primero | Tensor | booleano | ||
pasos/es_último | Tensor | booleano | ||
pasos/es_terminal | Tensor | booleano | ||
pasos/observación | Tensor | (39,) | flotador32 | |
pasos/recompensa | Tensor | flotador32 |
- Ejemplos ( tfds.as_dataframe ):
d4rl_adroit_door/v1-experto
Tamaño de descarga :
511.22 MiB
Tamaño del conjunto de datos :
803.48 MiB
Almacenamiento en caché automático ( documentación ): No
Divisiones :
Dividir | Ejemplos |
---|---|
'train' | 5.000 |
- Estructura de características :
FeaturesDict({
'algorithm': string,
'policy': FeaturesDict({
'fc0': FeaturesDict({
'bias': Tensor(shape=(32,), dtype=float32),
'weight': Tensor(shape=(32, 39), dtype=float32),
}),
'fc1': FeaturesDict({
'bias': Tensor(shape=(32,), dtype=float32),
'weight': Tensor(shape=(32, 32), dtype=float32),
}),
'last_fc': FeaturesDict({
'bias': Tensor(shape=(28,), dtype=float32),
'weight': Tensor(shape=(28, 32), dtype=float32),
}),
'last_fc_log_std': FeaturesDict({
'bias': Tensor(shape=(28,), dtype=float32),
'weight': Tensor(shape=(28, 32), dtype=float32),
}),
'nonlinearity': string,
'output_distribution': string,
}),
'steps': Dataset({
'action': Tensor(shape=(28,), dtype=float32),
'discount': float32,
'infos': FeaturesDict({
'action_log_std': Tensor(shape=(28,), dtype=float32),
'action_mean': Tensor(shape=(28,), dtype=float32),
'door_body_pos': Tensor(shape=(3,), dtype=float32),
'qpos': Tensor(shape=(30,), dtype=float32),
'qvel': Tensor(shape=(30,), dtype=float32),
}),
'is_first': bool,
'is_last': bool,
'is_terminal': bool,
'observation': Tensor(shape=(39,), dtype=float32),
'reward': float32,
}),
})
- Documentación de funciones :
Característica | Clase | Forma | tipo D | Descripción |
---|---|---|---|---|
FuncionesDict | ||||
algoritmo | Tensor | cadena | ||
política | FuncionesDict | |||
política/fc0 | FuncionesDict | |||
política/fc0/sesgo | Tensor | (32,) | flotador32 | |
política/fc0/peso | Tensor | (32, 39) | flotador32 | |
política/fc1 | FuncionesDict | |||
política/fc1/sesgo | Tensor | (32,) | flotador32 | |
política/fc1/peso | Tensor | (32, 32) | flotador32 | |
política/último_fc | FuncionesDict | |||
política/last_fc/sesgo | Tensor | (28,) | flotador32 | |
política/last_fc/peso | Tensor | (28, 32) | flotador32 | |
política/last_fc_log_std | FuncionesDict | |||
política/last_fc_log_std/sesgo | Tensor | (28,) | flotador32 | |
política/last_fc_log_std/peso | Tensor | (28, 32) | flotador32 | |
política/no linealidad | Tensor | cadena | ||
política/distribución_salida | Tensor | cadena | ||
pasos | Conjunto de datos | |||
pasos/acción | Tensor | (28,) | flotador32 | |
pasos/descuento | Tensor | flotador32 | ||
pasos/información | FuncionesDict | |||
pasos/información/action_log_std | Tensor | (28,) | flotador32 | |
pasos/información/acción_media | Tensor | (28,) | flotador32 | |
pasos/información/door_body_pos | Tensor | (3,) | flotador32 | |
pasos/información/qpos | Tensor | (30,) | flotador32 | |
pasos/información/qvel | Tensor | (30,) | flotador32 | |
pasos/es_primero | Tensor | booleano | ||
pasos/es_último | Tensor | booleano | ||
pasos/es_terminal | Tensor | booleano | ||
pasos/observación | Tensor | (39,) | flotador32 | |
pasos/recompensa | Tensor | flotador32 |
- Ejemplos ( tfds.as_dataframe ):