viola

  • Sự miêu tả :

Robot Franka tương tác với các nhiệm vụ nhà bếp cách điệu

Tách ra Ví dụ
'test' 15
'train' 135
  • Cấu trúc tính năng :
FeaturesDict({
    'steps': Dataset({
        'action': FeaturesDict({
            'gripper_closedness_action': float32,
            'rotation_delta': Tensor(shape=(3,), dtype=float32),
            'terminate_episode': float32,
            'world_vector': Tensor(shape=(3,), dtype=float32),
        }),
        'is_first': bool,
        'is_last': bool,
        'is_terminal': bool,
        'observation': FeaturesDict({
            'agentview_rgb': Image(shape=(224, 224, 3), dtype=uint8, description=RGB captured by workspace camera),
            'ee_states': Tensor(shape=(16,), dtype=float32, description=Pose of the end effector specified as a homogenous matrix.),
            'eye_in_hand_rgb': Image(shape=(224, 224, 3), dtype=uint8, description=RGB captured by in hand camera),
            'gripper_states': Tensor(shape=(1,), dtype=float32, description=gripper_states = 0 means the gripper is fully closed. The value represents the gripper width of Franka Panda Gripper.),
            'joint_states': Tensor(shape=(7,), dtype=float32, description=joint values),
            'natural_language_embedding': Tensor(shape=(512,), dtype=float32),
            'natural_language_instruction': string,
        }),
        'reward': Scalar(shape=(), dtype=float32),
    }),
})
  • Tài liệu tính năng :
Tính năng Lớp học Hình dạng loại D Sự miêu tả
Tính năngDict
bước Tập dữ liệu
bước/hành động Tính năngDict
bước/hành động/gripper_closedness_action Tenxơ phao32
bước/hành động/xoay_delta Tenxơ (3,) phao32
bước/hành động/chấm dứt_episode Tenxơ phao32
bước/hành động/world_vector Tenxơ (3,) phao32
bước/là_đầu tiên Tenxơ bool
bước/is_last Tenxơ bool
bước/is_terminal Tenxơ bool
bước/quan sát Tính năngDict
bước/quan sát/agentview_rgb Hình ảnh (224, 224, 3) uint8 RGB được chụp bằng camera không gian làm việc
bước/quan sát/ee_states Tenxơ (16,) phao32 Tư thế của bộ tác động cuối được chỉ định dưới dạng ma trận đồng nhất.
bước/quan sát/eye_in_hand_rgb Hình ảnh (224, 224, 3) uint8 RGB được chụp bằng máy ảnh cầm tay
bước/quan sát/gripper_states Tenxơ (1,) phao32 Gripper_states = 0 có nghĩa là tay kẹp đã được đóng hoàn toàn. Giá trị thể hiện chiều rộng kẹp của Franka Panda Gripper.
bước/quan sát/joint_states Tenxơ (7,) phao32 giá trị chung
các bước/quan sát/tự nhiên_ngôn ngữ_embedding Tenxơ (512,) phao32
các bước/quan sát/tự nhiên_ngôn ngữ_hướng dẫn Tenxơ sợi dây
bước/phần thưởng vô hướng phao32
@article{zhu2022viola,
  title={VIOLA: Imitation Learning for Vision-Based Manipulation with Object Proposal Priors},
  author={Zhu, Yifeng and Joshi, Abhishek and Stone, Peter and Zhu, Yuke},
  journal={6th Annual Conference on Robot Learning (CoRL)},
  year={2022}
}