rlu_control_suite

• Descripción :

RL Unplugged es un conjunto de puntos de referencia para el aprendizaje por refuerzo fuera de línea. El RL Unplugged está diseñado en torno a las siguientes consideraciones: para facilitar el uso, proporcionamos los conjuntos de datos con una API unificada que facilita al profesional trabajar con todos los datos en la suite una vez que se ha establecido una canalización general.

Los conjuntos de datos siguen el formato RLDS para representar pasos y episodios.

DeepMind Control Suite Tassa et al., 2018 es un conjunto de tareas de control implementadas en MuJoCo Todorov et al., 2012 . Consideramos un subconjunto de las tareas provistas en la suite que cubren una amplia gama de dificultades.

La mayoría de los conjuntos de datos en este dominio se generan utilizando D4PG. Para los entornos Bola de inserción del manipulador y Clavija de inserción del manipulador, usamos V-MPO Song et al., 2020 para generar los datos, ya que D4PG no puede resolver estas tareas. Publicamos conjuntos de datos para 9 tareas de la suite de control. Para obtener detalles sobre cómo se generó el conjunto de datos, consulte el documento.

DeepMind Control Suite es un punto de referencia tradicional de RL de acción continua. En particular, le recomendamos que pruebe su enfoque en DeepMind Control Suite si está interesado en compararlo con otros métodos de RL fuera de línea de última generación.

• Página de inicio: https://github.com/deepmind/deepmind-research/tree/master/rl_unplugged

• Código fuente : tfds.rl_unplugged.rlu_control_suite.RluControlSuite

• Versiones :

  • 1.0.0 (predeterminado): Versión inicial.

• Tamaño de descarga : Unknown size

• Claves supervisadas (Ver as_supervised doc ): None

• Figura ( tfds.show_examples ): no compatible.

• Cita :

@inproceedings{gulcehre2020rl,
 title = {RL Unplugged: A Suite of Benchmarks for Offline Reinforcement Learning},
 author = {Gulcehre, Caglar and Wang, Ziyu and Novikov, Alexander and Paine, Thomas and G'{o}mez, Sergio and Zolna, Konrad and Agarwal, Rishabh and Merel, Josh S and Mankowitz, Daniel J and Paduraru, Cosmin and Dulac-Arnold, Gabriel and Li, Jerry and Norouzi, Mohammad and Hoffman, Matthew and Heess, Nicolas and de Freitas, Nando},
 booktitle = {Advances in Neural Information Processing Systems},
 pages = {7248--7259},
 volume = {33},
 year = {2020}
}

rlu_control_suite/cartpole_swingup (configuración predeterminada)

• Tamaño del conjunto de datos : 2.12 MiB

• Almacenamiento automático en caché ( documentación ): Sí

• Divisiones :

• Estructura de características :

FeaturesDict({
    'episode_id': int64,
    'steps': Dataset({
        'action': Tensor(shape=(1,), dtype=float32),
        'discount': float32,
        'is_first': bool,
        'is_last': bool,
        'is_terminal': bool,
        'observation': FeaturesDict({
            'position': Tensor(shape=(3,), dtype=float32),
            'velocity': Tensor(shape=(2,), dtype=float32),
        }),
        'reward': float32,
    }),
    'timestamp': int64,
})

• Documentación de características :

• Ejemplos ( tfds.as_dataframe ):

rlu_control_suite/cheetah_run

• Tamaño del conjunto de datos : 36.58 MiB

• Almacenamiento automático en caché ( documentación ): Sí

• Divisiones :

• Estructura de características :

FeaturesDict({
    'episode_id': int64,
    'steps': Dataset({
        'action': Tensor(shape=(6,), dtype=float32),
        'discount': float32,
        'is_first': bool,
        'is_last': bool,
        'is_terminal': bool,
        'observation': FeaturesDict({
            'position': Tensor(shape=(8,), dtype=float32),
            'velocity': Tensor(shape=(9,), dtype=float32),
        }),
        'reward': float32,
    }),
    'timestamp': int64,
})

• Documentación de características :

• Ejemplos ( tfds.as_dataframe ):

rlu_control_suite/finger_turn_hard

• Tamaño del conjunto de datos : 47.61 MiB

• Almacenamiento automático en caché ( documentación ): Sí

• Divisiones :

• Estructura de características :

FeaturesDict({
    'episode_id': int64,
    'steps': Dataset({
        'action': Tensor(shape=(2,), dtype=float32),
        'discount': float32,
        'is_first': bool,
        'is_last': bool,
        'is_terminal': bool,
        'observation': FeaturesDict({
            'dist_to_target': Tensor(shape=(1,), dtype=float32),
            'position': Tensor(shape=(4,), dtype=float32),
            'target_position': Tensor(shape=(2,), dtype=float32),
            'velocity': Tensor(shape=(3,), dtype=float32),
        }),
        'reward': float32,
    }),
    'timestamp': int64,
})

• Documentación de características :

• Ejemplos ( tfds.as_dataframe ):

rlu_control_suite/fish_swim

• Tamaño del conjunto de datos : 32.81 MiB

• Almacenamiento automático en caché ( documentación ): Sí

• Divisiones :

• Estructura de características :

FeaturesDict({
    'episode_id': int64,
    'steps': Dataset({
        'action': Tensor(shape=(5,), dtype=float32),
        'discount': float32,
        'is_first': bool,
        'is_last': bool,
        'is_terminal': bool,
        'observation': FeaturesDict({
            'joint_angles': Tensor(shape=(7,), dtype=float32),
            'target': Tensor(shape=(3,), dtype=float32),
            'upright': Tensor(shape=(1,), dtype=float32),
            'velocity': Tensor(shape=(13,), dtype=float32),
        }),
        'reward': float32,
    }),
    'timestamp': int64,
})

• Documentación de características :

• Ejemplos ( tfds.as_dataframe ):

rlu_control_suite/humanoid_run

• Tamaño del conjunto de datos : 1.21 GiB

• Almacenamiento automático en caché ( documentación ): No

• Divisiones :

• Estructura de características :

FeaturesDict({
    'episode_id': int64,
    'steps': Dataset({
        'action': Tensor(shape=(21,), dtype=float32),
        'discount': float32,
        'is_first': bool,
        'is_last': bool,
        'is_terminal': bool,
        'observation': FeaturesDict({
            'com_velocity': Tensor(shape=(3,), dtype=float32),
            'extremities': Tensor(shape=(12,), dtype=float32),
            'head_height': Tensor(shape=(1,), dtype=float32),
            'joint_angles': Tensor(shape=(21,), dtype=float32),
            'torso_vertical': Tensor(shape=(3,), dtype=float32),
            'velocity': Tensor(shape=(27,), dtype=float32),
        }),
        'reward': float32,
    }),
    'timestamp': int64,
})

• Documentación de características :

• Ejemplos ( tfds.as_dataframe ):

rlu_control_suite/manipulator_insert_ball

• Tamaño del conjunto de datos : 385.41 MiB

• Almacenamiento automático en caché ( documentación ): No

• Divisiones :

• Estructura de características :

FeaturesDict({
    'episode_id': int64,
    'steps': Dataset({
        'action': Tensor(shape=(5,), dtype=float32),
        'discount': float32,
        'is_first': bool,
        'is_last': bool,
        'is_terminal': bool,
        'observation': FeaturesDict({
            'arm_pos': Tensor(shape=(16,), dtype=float32),
            'arm_vel': Tensor(shape=(8,), dtype=float32),
            'hand_pos': Tensor(shape=(4,), dtype=float32),
            'object_pos': Tensor(shape=(4,), dtype=float32),
            'object_vel': Tensor(shape=(3,), dtype=float32),
            'target_pos': Tensor(shape=(4,), dtype=float32),
            'touch': Tensor(shape=(5,), dtype=float32),
        }),
        'reward': float32,
    }),
    'timestamp': int64,
})

• Documentación de características :

• Ejemplos ( tfds.as_dataframe ):

rlu_control_suite/manipulator_insert_peg

• Tamaño del conjunto de datos : 385.73 MiB

• Almacenamiento automático en caché ( documentación ): No

• Divisiones :

• Estructura de características :

FeaturesDict({
    'episode_id': int64,
    'steps': Dataset({
        'action': Tensor(shape=(5,), dtype=float32),
        'discount': float32,
        'is_first': bool,
        'is_last': bool,
        'is_terminal': bool,
        'observation': FeaturesDict({
            'arm_pos': Tensor(shape=(16,), dtype=float32),
            'arm_vel': Tensor(shape=(8,), dtype=float32),
            'hand_pos': Tensor(shape=(4,), dtype=float32),
            'object_pos': Tensor(shape=(4,), dtype=float32),
            'object_vel': Tensor(shape=(3,), dtype=float32),
            'target_pos': Tensor(shape=(4,), dtype=float32),
            'touch': Tensor(shape=(5,), dtype=float32),
        }),
        'reward': float32,
    }),
    'timestamp': int64,
})

• Documentación de características :

• Ejemplos ( tfds.as_dataframe ):

rlu_control_suite/walker_stand

• Tamaño del conjunto de datos : 31.78 MiB

• Almacenamiento automático en caché ( documentación ): Sí

• Divisiones :

• Estructura de características :

FeaturesDict({
    'episode_id': int64,
    'steps': Dataset({
        'action': Tensor(shape=(6,), dtype=float32),
        'discount': float32,
        'is_first': bool,
        'is_last': bool,
        'is_terminal': bool,
        'observation': FeaturesDict({
            'height': Tensor(shape=(1,), dtype=float32),
            'orientations': Tensor(shape=(14,), dtype=float32),
            'velocity': Tensor(shape=(9,), dtype=float32),
        }),
        'reward': float32,
    }),
    'timestamp': int64,
})

• Documentación de características :

• Ejemplos ( tfds.as_dataframe ):

rlu_control_suite/walker_walk

• Tamaño del conjunto de datos : 31.78 MiB

• Almacenamiento automático en caché ( documentación ): Sí

• Divisiones :

• Estructura de características :

FeaturesDict({
    'episode_id': int64,
    'steps': Dataset({
        'action': Tensor(shape=(6,), dtype=float32),
        'discount': float32,
        'is_first': bool,
        'is_last': bool,
        'is_terminal': bool,
        'observation': FeaturesDict({
            'height': Tensor(shape=(1,), dtype=float32),
            'orientations': Tensor(shape=(14,), dtype=float32),
            'velocity': Tensor(shape=(9,), dtype=float32),
        }),
        'reward': float32,
    }),
    'timestamp': int64,
})

• Documentación de características :

• Ejemplos ( tfds.as_dataframe ):