- คำอธิบาย :
ชุดข้อมูล SIM ของแขนหุ่นยนต์ตัวเดียวที่ทำงานบนโต๊ะที่สร้างตามขั้นตอนพร้อมการแจ้งเตือนหลายรูปแบบ วิถี 600K+
หน้าแรก : https://vimalabs.github.io/
ซอร์สโค้ด :
tfds.robotics.rtx.VimaConvertedExternallyToRlds
รุ่น :
-
0.1.0
(ค่าเริ่มต้น): การเปิดตัวครั้งแรก
-
ขนาดการดาวน์โหลด :
Unknown size
ขนาดชุดข้อมูล :
Unknown size
แคชอัตโนมัติ ( เอกสาร ): ไม่ทราบ
แยก :
แยก | ตัวอย่าง |
---|
- โครงสร้างคุณสมบัติ :
FeaturesDict({
'episode_metadata': FeaturesDict({
'action_bounds': FeaturesDict({
'high': Tensor(shape=(3,), dtype=float32),
'low': Tensor(shape=(3,), dtype=float32),
}),
'end-effector type': string,
'failure': Scalar(shape=(), dtype=bool),
'file_path': string,
'n_objects': Scalar(shape=(), dtype=int64),
'num_steps': Scalar(shape=(), dtype=int64),
'robot_components_seg_ids': Sequence(Scalar(shape=(), dtype=int64)),
'seed': Scalar(shape=(), dtype=int64),
'success': Scalar(shape=(), dtype=bool),
'task': string,
}),
'steps': Dataset({
'action': FeaturesDict({
'pose0_position': Tensor(shape=(3,), dtype=float32),
'pose0_rotation': Tensor(shape=(4,), dtype=float32),
'pose1_position': Tensor(shape=(3,), dtype=float32),
'pose1_rotation': Tensor(shape=(4,), dtype=float32),
}),
'discount': Scalar(shape=(), dtype=float32),
'is_first': bool,
'is_last': bool,
'is_terminal': bool,
'multimodal_instruction': string,
'multimodal_instruction_assets': FeaturesDict({
'asset_type': Sequence(string),
'frontal_image': Sequence(Tensor(shape=(128, 256, 3), dtype=uint8)),
'frontal_segmentation': Sequence(Tensor(shape=(128, 256), dtype=uint8)),
'image': Sequence(Tensor(shape=(128, 256, 3), dtype=uint8)),
'key_name': Sequence(string),
'segmentation': Sequence(Tensor(shape=(128, 256), dtype=uint8)),
'segmentation_obj_info': Sequence({
'obj_name': Sequence(string),
'segm_id': Sequence(Scalar(shape=(), dtype=int64)),
'texture_name': Sequence(string),
}),
}),
'observation': FeaturesDict({
'ee': int64,
'frontal_image': Tensor(shape=(128, 256, 3), dtype=uint8),
'frontal_segmentation': Tensor(shape=(128, 256), dtype=uint8),
'image': Tensor(shape=(128, 256, 3), dtype=uint8),
'segmentation': Tensor(shape=(128, 256), dtype=uint8),
'segmentation_obj_info': FeaturesDict({
'obj_name': Sequence(string),
'segm_id': Sequence(Scalar(shape=(), dtype=int64)),
'texture_name': Sequence(string),
}),
}),
'reward': Scalar(shape=(), dtype=float32),
}),
})
- เอกสารคุณสมบัติ :
คุณสมบัติ | ระดับ | รูปร่าง | ประเภทD | คำอธิบาย |
---|---|---|---|---|
คุณสมบัติDict | ||||
ตอนที่_ข้อมูลเมตา | คุณสมบัติDict | |||
ตอนที่_metadata/action_bounds | คุณสมบัติDict | |||
ตอนที่_metadata/action_bounds/สูง | เทนเซอร์ | (3,) | ลอย32 | |
ตอนที่_metadata/action_bounds/ต่ำ | เทนเซอร์ | (3,) | ลอย32 | |
ตอนที่_metadata/ประเภทเอฟเฟกต์ปลาย | เทนเซอร์ | เชือก | ||
ตอนที่_ข้อมูลเมตา/ความล้มเหลว | สเกลาร์ | บูล | ||
ตอนที่_metadata/file_path | เทนเซอร์ | เชือก | ||
ตอนที่_metadata/n_objects | สเกลาร์ | int64 | ||
ตอนที่_ข้อมูลเมตา/num_steps | สเกลาร์ | int64 | ||
ตอนที่_metadata/robot_components_seg_ids | ลำดับ(สเกลาร์) | (ไม่มี,) | int64 | |
ตอนที่_ข้อมูลเมตา/seed | สเกลาร์ | int64 | ||
ตอนที่_ข้อมูลเมตา/ความสำเร็จ | สเกลาร์ | บูล | ||
ตอนที่_ข้อมูลเมตา/งาน | เทนเซอร์ | เชือก | ||
ขั้นตอน | ชุดข้อมูล | |||
ขั้นตอน/การดำเนินการ | คุณสมบัติDict | |||
ขั้นตอน/การกระทำ/pose0_position | เทนเซอร์ | (3,) | ลอย32 | |
ขั้นตอน/การกระทำ/pose0_rotation | เทนเซอร์ | (4,) | ลอย32 | |
ขั้นตอน/การกระทำ/pose1_position | เทนเซอร์ | (3,) | ลอย32 | |
ขั้นตอน/การกระทำ/pose1_rotation | เทนเซอร์ | (4,) | ลอย32 | |
ขั้นตอน/ส่วนลด | สเกลาร์ | ลอย32 | ||
ขั้นตอน/is_first | เทนเซอร์ | บูล | ||
ขั้นตอน/is_last | เทนเซอร์ | บูล | ||
ขั้นตอน/is_terminal | เทนเซอร์ | บูล | ||
ขั้นตอน/multimodal_instruction | เทนเซอร์ | เชือก | ||
ขั้นตอน/multimodal_instruction_assets | คุณสมบัติDict | |||
ขั้นตอน/multimodal_instruction_assets/asset_type | ลำดับ (เทนเซอร์) | (ไม่มี,) | เชือก | |
ขั้นตอน/multimodal_instruction_assets/frontal_image | ลำดับ (เทนเซอร์) | (ไม่มี, 128, 256, 3) | uint8 | |
ขั้นตอน/multimodal_instruction_assets/frontal_segmentation | ลำดับ (เทนเซอร์) | (ไม่มี, 128, 256) | uint8 | |
ขั้นตอน/multimodal_instruction_assets/รูปภาพ | ลำดับ (เทนเซอร์) | (ไม่มี, 128, 256, 3) | uint8 | |
ขั้นตอน/multimodal_instruction_assets/key_name | ลำดับ (เทนเซอร์) | (ไม่มี,) | เชือก | |
ขั้นตอน/multimodal_instruction_assets/การแบ่งส่วน | ลำดับ (เทนเซอร์) | (ไม่มี, 128, 256) | uint8 | |
ขั้นตอน/multimodal_instruction_assets/segmentation_obj_info | ลำดับ | |||
ขั้นตอน/multimodal_instruction_assets/segmentation_obj_info/obj_name | ลำดับ (เทนเซอร์) | (ไม่มี,) | เชือก | |
ขั้นตอน/multimodal_instruction_assets/segmentation_obj_info/segm_id | ลำดับ(สเกลาร์) | (ไม่มี,) | int64 | |
ขั้นตอน/multimodal_instruction_assets/segmentation_obj_info/texture_name | ลำดับ (เทนเซอร์) | (ไม่มี,) | เชือก | |
ขั้นตอน/การสังเกต | คุณสมบัติDict | |||
ขั้นตอน/การสังเกต/ee | เทนเซอร์ | int64 | ||
ขั้นตอน/การสังเกต/frontal_image | เทนเซอร์ | (128, 256, 3) | uint8 | |
ขั้นตอน/การสังเกต/frontal_segmentation | เทนเซอร์ | (128, 256) | uint8 | |
ขั้นตอน/การสังเกต/ภาพ | เทนเซอร์ | (128, 256, 3) | uint8 | |
ขั้นตอน/การสังเกต/การแบ่งส่วน | เทนเซอร์ | (128, 256) | uint8 | |
ขั้นตอน/การสังเกต/การแบ่งส่วน_obj_info | คุณสมบัติDict | |||
ขั้นตอน/การสังเกต/segmentation_obj_info/obj_name | ลำดับ (เทนเซอร์) | (ไม่มี,) | เชือก | |
ขั้นตอน/การสังเกต/segmentation_obj_info/segm_id | ลำดับ(สเกลาร์) | (ไม่มี,) | int64 | |
ขั้นตอน/การสังเกต/segmentation_obj_info/texture_name | ลำดับ (เทนเซอร์) | (ไม่มี,) | เชือก | |
ขั้นตอน/รางวัล | สเกลาร์ | ลอย32 |
คีย์ภายใต้การดูแล (ดู
as_supervised
doc ):None
รูปภาพ ( tfds.show_examples ): ไม่รองรับ
ตัวอย่าง ( tfds.as_dataframe ): หายไป
การอ้างอิง :
@inproceedings{jiang2023vima, title = {VIMA: General Robot Manipulation with Multimodal Prompts}, author = {Yunfan Jiang and Agrim Gupta and Zichen Zhang and Guanzhi Wang and Yongqiang Dou and Yanjun Chen and Li Fei-Fei and Anima Anandkumar and Yuke Zhu and Linxi Fan}, booktitle = {Fortieth International Conference on Machine Learning}, year = {2023}. }