- বর্ণনা :
মাল্টিমডাল প্রম্পট, 600K+ ট্র্যাজেক্টোরিজ সহ পদ্ধতিগতভাবে তৈরি করা ট্যাবলেটপ কাজগুলি সম্পাদন করে একটি একক রোবট হাতের সিম ডেটাসেট
হোমপেজ : https://vimalabs.github.io/
সংস্করণ :
-
0.1.0
(ডিফল্ট): প্রাথমিক প্রকাশ।
-
ডাউনলোড আকার :
Unknown size
ডেটাসেটের আকার :
Unknown size
স্বয়ংক্রিয় ক্যাশে ( ডকুমেন্টেশন ): অজানা
বিভাজন :
বিভক্ত | উদাহরণ |
---|
- বৈশিষ্ট্য গঠন :
FeaturesDict({
'episode_metadata': FeaturesDict({
'action_bounds': FeaturesDict({
'high': Tensor(shape=(3,), dtype=float32),
'low': Tensor(shape=(3,), dtype=float32),
}),
'end-effector type': string,
'failure': Scalar(shape=(), dtype=bool),
'file_path': string,
'n_objects': Scalar(shape=(), dtype=int64),
'num_steps': Scalar(shape=(), dtype=int64),
'robot_components_seg_ids': Sequence(Scalar(shape=(), dtype=int64)),
'seed': Scalar(shape=(), dtype=int64),
'success': Scalar(shape=(), dtype=bool),
'task': string,
}),
'steps': Dataset({
'action': FeaturesDict({
'pose0_position': Tensor(shape=(3,), dtype=float32),
'pose0_rotation': Tensor(shape=(4,), dtype=float32),
'pose1_position': Tensor(shape=(3,), dtype=float32),
'pose1_rotation': Tensor(shape=(4,), dtype=float32),
}),
'discount': Scalar(shape=(), dtype=float32),
'is_first': bool,
'is_last': bool,
'is_terminal': bool,
'multimodal_instruction': string,
'multimodal_instruction_assets': FeaturesDict({
'asset_type': Sequence(string),
'frontal_image': Sequence(Tensor(shape=(128, 256, 3), dtype=uint8)),
'frontal_segmentation': Sequence(Tensor(shape=(128, 256), dtype=uint8)),
'image': Sequence(Tensor(shape=(128, 256, 3), dtype=uint8)),
'key_name': Sequence(string),
'segmentation': Sequence(Tensor(shape=(128, 256), dtype=uint8)),
'segmentation_obj_info': Sequence({
'obj_name': Sequence(string),
'segm_id': Sequence(Scalar(shape=(), dtype=int64)),
'texture_name': Sequence(string),
}),
}),
'observation': FeaturesDict({
'ee': int64,
'frontal_image': Tensor(shape=(128, 256, 3), dtype=uint8),
'frontal_segmentation': Tensor(shape=(128, 256), dtype=uint8),
'image': Tensor(shape=(128, 256, 3), dtype=uint8),
'segmentation': Tensor(shape=(128, 256), dtype=uint8),
'segmentation_obj_info': FeaturesDict({
'obj_name': Sequence(string),
'segm_id': Sequence(Scalar(shape=(), dtype=int64)),
'texture_name': Sequence(string),
}),
}),
'reward': Scalar(shape=(), dtype=float32),
}),
})
- বৈশিষ্ট্য ডকুমেন্টেশন :
বৈশিষ্ট্য | ক্লাস | আকৃতি | ডিটাইপ | বর্ণনা |
---|---|---|---|---|
ফিচারসডিক্ট | ||||
episode_metadata | ফিচারসডিক্ট | |||
episode_metadata/action_bounds | ফিচারসডিক্ট | |||
episode_metadata/action_bounds/high | টেনসর | (৩,) | float32 | |
episode_metadata/action_bounds/low | টেনসর | (৩,) | float32 | |
episode_metadata/end-efector type | টেনসর | স্ট্রিং | ||
episode_metadata/failure | স্কেলার | bool | ||
episode_metadata/file_path | টেনসর | স্ট্রিং | ||
episode_metadata/n_objects | স্কেলার | int64 | ||
episode_metadata/num_steps | স্কেলার | int64 | ||
episode_metadata/robot_components_seg_ids | ক্রম (স্ক্যালার) | (কোনটিই নয়,) | int64 | |
পর্ব_মেটাডেটা/বীজ | স্কেলার | int64 | ||
episode_metadata/success | স্কেলার | bool | ||
পর্ব_মেটাডেটা/টাস্ক | টেনসর | স্ট্রিং | ||
পদক্ষেপ | ডেটাসেট | |||
পদক্ষেপ/ক্রিয়া | ফিচারসডিক্ট | |||
steps/action/pose0_position | টেনসর | (৩,) | float32 | |
steps/action/pose0_rotation | টেনসর | (৪,) | float32 | |
steps/action/pose1_position | টেনসর | (৩,) | float32 | |
steps/action/pose1_rotation | টেনসর | (৪,) | float32 | |
পদক্ষেপ/ছাড় | স্কেলার | float32 | ||
steps/is_first | টেনসর | bool | ||
ধাপ/শেষ_শেষ | টেনসর | bool | ||
steps/is_terminal | টেনসর | bool | ||
পদক্ষেপ/মাল্টিমোডাল_নির্দেশ | টেনসর | স্ট্রিং | ||
পদক্ষেপ/মাল্টিমোডাল_নির্দেশনা_সম্পদ | ফিচারসডিক্ট | |||
পদক্ষেপ/মাল্টিমোডাল_ইনস্ট্রাকশন_অ্যাসেট/অ্যাসেট_টাইপ | ক্রম (টেনসর) | (কোনটিই নয়,) | স্ট্রিং | |
পদক্ষেপ/মাল্টিমোডাল_ইনস্ট্রাকশন_অ্যাসেট/ফ্রন্টাল_ছবি | ক্রম (টেনসর) | (কোনটিই নয়, 128, 256, 3) | uint8 | |
পদক্ষেপ/মাল্টিমোডাল_ইনস্ট্রাকশন_অ্যাসেট/ফ্রন্টাল_সেগমেন্টেশন | ক্রম (টেনসর) | (কোনটিই নয়, 128, 256) | uint8 | |
পদক্ষেপ/মাল্টিমোডাল_ইনস্ট্রাকশন_সম্পদ/চিত্র | ক্রম (টেনসর) | (কোনটিই নয়, 128, 256, 3) | uint8 | |
পদক্ষেপ/মাল্টিমোডাল_ইনস্ট্রাকশন_অ্যাসেট/কী_নাম | ক্রম (টেনসর) | (কোনটিই নয়,) | স্ট্রিং | |
পদক্ষেপ/মাল্টিমোডাল_ইনস্ট্রাকশন_অ্যাসেট/সেগমেন্টেশন | ক্রম (টেনসর) | (কোনটিই নয়, 128, 256) | uint8 | |
পদক্ষেপ/মাল্টিমোডাল_ইনস্ট্রাকশন_অ্যাসেট/সেগমেন্টেশন_ওবজে_ইনফো | ক্রম | |||
পদক্ষেপ/মাল্টিমোডাল_ইনস্ট্রাকশন_অ্যাসেট/সেগমেন্টেশন_ওবজে_ইনফো/obj_name | ক্রম (টেনসর) | (কোনটিই নয়,) | স্ট্রিং | |
steps/multimodal_instruction_assets/segmentation_obj_info/segm_id | ক্রম (স্ক্যালার) | (কোনটিই নয়,) | int64 | |
পদক্ষেপ/মাল্টিমোডাল_ইনস্ট্রাকশন_অ্যাসেট/সেগমেন্টেশন_ওবজে_ইনফো/টেক্সচার_নাম | ক্রম (টেনসর) | (কোনটিই নয়,) | স্ট্রিং | |
পদক্ষেপ/পর্যবেক্ষণ | ফিচারসডিক্ট | |||
পদক্ষেপ/পর্যবেক্ষণ/ই | টেনসর | int64 | ||
পদক্ষেপ/পর্যবেক্ষণ/ফ্রন্টাল_ইমেজ | টেনসর | (128, 256, 3) | uint8 | |
পদক্ষেপ/পর্যবেক্ষণ/ফ্রন্টাল_সেগমেন্টেশন | টেনসর | (128, 256) | uint8 | |
পদক্ষেপ/পর্যবেক্ষণ/চিত্র | টেনসর | (128, 256, 3) | uint8 | |
পদক্ষেপ/পর্যবেক্ষণ/বিভাগ | টেনসর | (128, 256) | uint8 | |
পদক্ষেপ/পর্যবেক্ষণ/বিভাজন_obj_info | ফিচারসডিক্ট | |||
পদক্ষেপ/অবজারভেশন/সেগমেন্টেশন_obj_info/obj_name | ক্রম (টেনসর) | (কোনটিই নয়,) | স্ট্রিং | |
পদক্ষেপ/অবজারভেশন/সেগমেন্টেশন_obj_info/segm_id | ক্রম (স্ক্যালার) | (কোনটিই নয়,) | int64 | |
পদক্ষেপ/অবজারভেশন/সেগমেন্টেশন_obj_info/টেক্সচার_নাম | ক্রম (টেনসর) | (কোনটিই নয়,) | স্ট্রিং | |
পদক্ষেপ/পুরস্কার | স্কেলার | float32 |
তত্ত্বাবধান করা কী (দেখুন
as_supervised
doc ):None
চিত্র ( tfds.show_examples ): সমর্থিত নয়।
উদাহরণ ( tfds.as_dataframe ): অনুপস্থিত।
উদ্ধৃতি :
@inproceedings{jiang2023vima, title = {VIMA: General Robot Manipulation with Multimodal Prompts}, author = {Yunfan Jiang and Agrim Gupta and Zichen Zhang and Guanzhi Wang and Yongqiang Dou and Yanjun Chen and Li Fei-Fei and Anima Anandkumar and Yuke Zhu and Linxi Fan}, booktitle = {Fortieth International Conference on Machine Learning}, year = {2023}. }