- คำอธิบาย :
D4RL เป็นเกณฑ์มาตรฐานแบบโอเพ่นซอร์สสำหรับการเรียนรู้แบบเสริมกำลังแบบออฟไลน์ โดยจัดเตรียมสภาพแวดล้อมและชุดข้อมูลที่เป็นมาตรฐานสำหรับอัลกอริธึมการฝึกอบรมและการวัดประสิทธิภาพ
ชุดข้อมูลเป็นไปตาม รูปแบบ RLDS เพื่อแสดงขั้นตอนและตอน
คำอธิบายการกำหนดค่า : ดูรายละเอียดเพิ่มเติมเกี่ยวกับงานและเวอร์ชันใน https://github.com/rail-berkeley/d4rl/wiki/Tasks#adroit
ซอร์สโค้ด :
tfds.d4rl.d4rl_adroit_hammer.D4rlAdroitHammer
รุ่น :
-
1.0.0
: การเปิดตัวครั้งแรก -
1.1.0
(ค่าเริ่มต้น): เพิ่ม is_last
-
คีย์ภายใต้การดูแล (ดู
as_supervised
doc ):None
รูปภาพ ( tfds.show_examples ): ไม่รองรับ
การอ้างอิง :
@misc{fu2020d4rl,
title={D4RL: Datasets for Deep Data-Driven Reinforcement Learning},
author={Justin Fu and Aviral Kumar and Ofir Nachum and George Tucker and Sergey Levine},
year={2020},
eprint={2004.07219},
archivePrefix={arXiv},
primaryClass={cs.LG}
}
d4rl_adroit_hammer/v0-human (การกำหนดค่าเริ่มต้น)
ขนาดดาวน์โหลด :
5.33 MiB
ขนาดชุดข้อมูล :
6.10 MiB
แคชอัตโนมัติ ( เอกสาร ): ใช่
แยก :
แยก | ตัวอย่าง |
---|---|
'train' | 70 |
- โครงสร้างคุณสมบัติ :
FeaturesDict({
'steps': Dataset({
'action': Tensor(shape=(26,), dtype=float32),
'discount': float32,
'infos': FeaturesDict({
'qpos': Tensor(shape=(33,), dtype=float32),
'qvel': Tensor(shape=(33,), dtype=float32),
}),
'is_first': bool,
'is_last': bool,
'is_terminal': bool,
'observation': Tensor(shape=(46,), dtype=float32),
'reward': float32,
}),
})
- เอกสารคุณสมบัติ :
คุณสมบัติ | ระดับ | รูปร่าง | ประเภทD | คำอธิบาย |
---|---|---|---|---|
คุณสมบัติDict | ||||
ขั้นตอน | ชุดข้อมูล | |||
ขั้นตอน/การดำเนินการ | เทนเซอร์ | (26,) | ลอย32 | |
ขั้นตอน/ส่วนลด | เทนเซอร์ | ลอย32 | ||
ขั้นตอน/ข้อมูล | คุณสมบัติDict | |||
ขั้นตอน/ข้อมูล/qpos | เทนเซอร์ | (33,) | ลอย32 | |
ขั้นตอน/ข้อมูล/qvel | เทนเซอร์ | (33,) | ลอย32 | |
ขั้นตอน/is_first | เทนเซอร์ | บูล | ||
ขั้นตอน/is_last | เทนเซอร์ | บูล | ||
ขั้นตอน/is_terminal | เทนเซอร์ | บูล | ||
ขั้นตอน/การสังเกต | เทนเซอร์ | (46,) | ลอย32 | |
ขั้นตอน/รางวัล | เทนเซอร์ | ลอย32 |
- ตัวอย่าง ( tfds.as_dataframe ):
โคลน d4rl_adroit_hammer/v0
ขนาดดาวน์โหลด :
644.69 MiB
ขนาดชุดข้อมูล :
538.97 MiB
แคชอัตโนมัติ ( เอกสาร ): No
แยก :
แยก | ตัวอย่าง |
---|---|
'train' | 5,594 |
- โครงสร้างคุณสมบัติ :
FeaturesDict({
'steps': Dataset({
'action': Tensor(shape=(26,), dtype=float32),
'discount': float64,
'infos': FeaturesDict({
'qpos': Tensor(shape=(33,), dtype=float64),
'qvel': Tensor(shape=(33,), dtype=float64),
}),
'is_first': bool,
'is_last': bool,
'is_terminal': bool,
'observation': Tensor(shape=(46,), dtype=float64),
'reward': float64,
}),
})
- เอกสารคุณสมบัติ :
คุณสมบัติ | ระดับ | รูปร่าง | ประเภทD | คำอธิบาย |
---|---|---|---|---|
คุณสมบัติDict | ||||
ขั้นตอน | ชุดข้อมูล | |||
ขั้นตอน/การดำเนินการ | เทนเซอร์ | (26,) | ลอย32 | |
ขั้นตอน/ส่วนลด | เทนเซอร์ | ลอย64 | ||
ขั้นตอน/ข้อมูล | คุณสมบัติDict | |||
ขั้นตอน/ข้อมูล/qpos | เทนเซอร์ | (33,) | ลอย64 | |
ขั้นตอน/ข้อมูล/qvel | เทนเซอร์ | (33,) | ลอย64 | |
ขั้นตอน/is_first | เทนเซอร์ | บูล | ||
ขั้นตอน/is_last | เทนเซอร์ | บูล | ||
ขั้นตอน/is_terminal | เทนเซอร์ | บูล | ||
ขั้นตอน/การสังเกต | เทนเซอร์ | (46,) | ลอย64 | |
ขั้นตอน/รางวัล | เทนเซอร์ | ลอย64 |
- ตัวอย่าง ( tfds.as_dataframe ):
d4rl_adroit_hammer/v0-ผู้เชี่ยวชาญ
ขนาดดาวน์โหลด :
529.91 MiB
ขนาดชุดข้อมูล :
737.00 MiB
แคชอัตโนมัติ ( เอกสาร ): No
แยก :
แยก | ตัวอย่าง |
---|---|
'train' | 5,000 |
- โครงสร้างคุณสมบัติ :
FeaturesDict({
'steps': Dataset({
'action': Tensor(shape=(26,), dtype=float32),
'discount': float32,
'infos': FeaturesDict({
'action_logstd': Tensor(shape=(26,), dtype=float32),
'action_mean': Tensor(shape=(26,), dtype=float32),
'qpos': Tensor(shape=(33,), dtype=float32),
'qvel': Tensor(shape=(33,), dtype=float32),
}),
'is_first': bool,
'is_last': bool,
'is_terminal': bool,
'observation': Tensor(shape=(46,), dtype=float32),
'reward': float32,
}),
})
- เอกสารคุณสมบัติ :
คุณสมบัติ | ระดับ | รูปร่าง | ประเภทD | คำอธิบาย |
---|---|---|---|---|
คุณสมบัติDict | ||||
ขั้นตอน | ชุดข้อมูล | |||
ขั้นตอน/การดำเนินการ | เทนเซอร์ | (26,) | ลอย32 | |
ขั้นตอน/ส่วนลด | เทนเซอร์ | ลอย32 | ||
ขั้นตอน/ข้อมูล | คุณสมบัติDict | |||
ขั้นตอน/ข้อมูล/action_logstd | เทนเซอร์ | (26,) | ลอย32 | |
ขั้นตอน/ข้อมูล/action_mean | เทนเซอร์ | (26,) | ลอย32 | |
ขั้นตอน/ข้อมูล/qpos | เทนเซอร์ | (33,) | ลอย32 | |
ขั้นตอน/ข้อมูล/qvel | เทนเซอร์ | (33,) | ลอย32 | |
ขั้นตอน/is_first | เทนเซอร์ | บูล | ||
ขั้นตอน/is_last | เทนเซอร์ | บูล | ||
ขั้นตอน/is_terminal | เทนเซอร์ | บูล | ||
ขั้นตอน/การสังเกต | เทนเซอร์ | (46,) | ลอย32 | |
ขั้นตอน/รางวัล | เทนเซอร์ | ลอย32 |
- ตัวอย่าง ( tfds.as_dataframe ):
d4rl_adroit_hammer/v1-human
ขนาดดาวน์โหลด :
5.35 MiB
ขนาดชุดข้อมูล :
6.34 MiB
แคชอัตโนมัติ ( เอกสาร ): ใช่
แยก :
แยก | ตัวอย่าง |
---|---|
'train' | 25 |
- โครงสร้างคุณสมบัติ :
FeaturesDict({
'steps': Dataset({
'action': Tensor(shape=(26,), dtype=float32),
'discount': float32,
'infos': FeaturesDict({
'board_pos': Tensor(shape=(3,), dtype=float32),
'qpos': Tensor(shape=(33,), dtype=float32),
'qvel': Tensor(shape=(33,), dtype=float32),
'target_pos': Tensor(shape=(3,), dtype=float32),
}),
'is_first': bool,
'is_last': bool,
'is_terminal': bool,
'observation': Tensor(shape=(46,), dtype=float32),
'reward': float32,
}),
})
- เอกสารคุณสมบัติ :
คุณสมบัติ | ระดับ | รูปร่าง | ประเภทD | คำอธิบาย |
---|---|---|---|---|
คุณสมบัติDict | ||||
ขั้นตอน | ชุดข้อมูล | |||
ขั้นตอน/การดำเนินการ | เทนเซอร์ | (26,) | ลอย32 | |
ขั้นตอน/ส่วนลด | เทนเซอร์ | ลอย32 | ||
ขั้นตอน/ข้อมูล | คุณสมบัติDict | |||
ขั้นตอน/ข้อมูล/board_pos | เทนเซอร์ | (3,) | ลอย32 | |
ขั้นตอน/ข้อมูล/qpos | เทนเซอร์ | (33,) | ลอย32 | |
ขั้นตอน/ข้อมูล/qvel | เทนเซอร์ | (33,) | ลอย32 | |
ขั้นตอน/ข้อมูล/target_pos | เทนเซอร์ | (3,) | ลอย32 | |
ขั้นตอน/is_first | เทนเซอร์ | บูล | ||
ขั้นตอน/is_last | เทนเซอร์ | บูล | ||
ขั้นตอน/is_terminal | เทนเซอร์ | บูล | ||
ขั้นตอน/การสังเกต | เทนเซอร์ | (46,) | ลอย32 | |
ขั้นตอน/รางวัล | เทนเซอร์ | ลอย32 |
- ตัวอย่าง ( tfds.as_dataframe ):
โคลน d4rl_adroit_hammer/v1
ขนาดดาวน์โหลด :
425.93 MiB
ขนาดชุดข้อมูล :
1.68 GiB
แคชอัตโนมัติ ( เอกสาร ): No
แยก :
แยก | ตัวอย่าง |
---|---|
'train' | 3,606 |
- โครงสร้างคุณสมบัติ :
FeaturesDict({
'algorithm': string,
'policy': FeaturesDict({
'fc0': FeaturesDict({
'bias': Tensor(shape=(256,), dtype=float32),
'weight': Tensor(shape=(46, 256), dtype=float32),
}),
'fc1': FeaturesDict({
'bias': Tensor(shape=(256,), dtype=float32),
'weight': Tensor(shape=(256, 256), dtype=float32),
}),
'last_fc': FeaturesDict({
'bias': Tensor(shape=(26,), dtype=float32),
'weight': Tensor(shape=(256, 26), dtype=float32),
}),
'nonlinearity': string,
'output_distribution': string,
}),
'steps': Dataset({
'action': Tensor(shape=(26,), dtype=float32),
'discount': float32,
'infos': FeaturesDict({
'board_pos': Tensor(shape=(3,), dtype=float32),
'qpos': Tensor(shape=(33,), dtype=float32),
'qvel': Tensor(shape=(33,), dtype=float32),
'target_pos': Tensor(shape=(3,), dtype=float32),
}),
'is_first': bool,
'is_last': bool,
'is_terminal': bool,
'observation': Tensor(shape=(46,), dtype=float32),
'reward': float32,
}),
})
- เอกสารคุณสมบัติ :
คุณสมบัติ | ระดับ | รูปร่าง | ประเภทD | คำอธิบาย |
---|---|---|---|---|
คุณสมบัติDict | ||||
อัลกอริทึม | เทนเซอร์ | เชือก | ||
นโยบาย | คุณสมบัติDict | |||
นโยบาย/fc0 | คุณสมบัติDict | |||
นโยบาย/fc0/อคติ | เทนเซอร์ | (256,) | ลอย32 | |
นโยบาย/fc0/น้ำหนัก | เทนเซอร์ | (46, 256) | ลอย32 | |
นโยบาย/fc1 | คุณสมบัติDict | |||
นโยบาย/fc1/อคติ | เทนเซอร์ | (256,) | ลอย32 | |
นโยบาย/fc1/น้ำหนัก | เทนเซอร์ | (256, 256) | ลอย32 | |
นโยบาย/last_fc | คุณสมบัติDict | |||
นโยบาย/last_fc/อคติ | เทนเซอร์ | (26,) | ลอย32 | |
นโยบาย/last_fc/น้ำหนัก | เทนเซอร์ | (256, 26) | ลอย32 | |
นโยบาย/ความไม่เชิงเส้น | เทนเซอร์ | เชือก | ||
นโยบาย/output_distribution | เทนเซอร์ | เชือก | ||
ขั้นตอน | ชุดข้อมูล | |||
ขั้นตอน/การดำเนินการ | เทนเซอร์ | (26,) | ลอย32 | |
ขั้นตอน/ส่วนลด | เทนเซอร์ | ลอย32 | ||
ขั้นตอน/ข้อมูล | คุณสมบัติDict | |||
ขั้นตอน/ข้อมูล/board_pos | เทนเซอร์ | (3,) | ลอย32 | |
ขั้นตอน/ข้อมูล/qpos | เทนเซอร์ | (33,) | ลอย32 | |
ขั้นตอน/ข้อมูล/qvel | เทนเซอร์ | (33,) | ลอย32 | |
ขั้นตอน/ข้อมูล/target_pos | เทนเซอร์ | (3,) | ลอย32 | |
ขั้นตอน/is_first | เทนเซอร์ | บูล | ||
ขั้นตอน/is_last | เทนเซอร์ | บูล | ||
ขั้นตอน/is_terminal | เทนเซอร์ | บูล | ||
ขั้นตอน/การสังเกต | เทนเซอร์ | (46,) | ลอย32 | |
ขั้นตอน/รางวัล | เทนเซอร์ | ลอย32 |
- ตัวอย่าง ( tfds.as_dataframe ):
d4rl_adroit_hammer/v1-ผู้เชี่ยวชาญ
ขนาดดาวน์โหลด :
531.24 MiB
ขนาดชุดข้อมูล :
843.54 MiB
แคชอัตโนมัติ ( เอกสาร ): No
แยก :
แยก | ตัวอย่าง |
---|---|
'train' | 5,000 |
- โครงสร้างคุณสมบัติ :
FeaturesDict({
'algorithm': string,
'policy': FeaturesDict({
'fc0': FeaturesDict({
'bias': Tensor(shape=(32,), dtype=float32),
'weight': Tensor(shape=(32, 46), dtype=float32),
}),
'fc1': FeaturesDict({
'bias': Tensor(shape=(32,), dtype=float32),
'weight': Tensor(shape=(32, 32), dtype=float32),
}),
'last_fc': FeaturesDict({
'bias': Tensor(shape=(26,), dtype=float32),
'weight': Tensor(shape=(26, 32), dtype=float32),
}),
'last_fc_log_std': FeaturesDict({
'bias': Tensor(shape=(26,), dtype=float32),
'weight': Tensor(shape=(26, 32), dtype=float32),
}),
'nonlinearity': string,
'output_distribution': string,
}),
'steps': Dataset({
'action': Tensor(shape=(26,), dtype=float32),
'discount': float32,
'infos': FeaturesDict({
'action_log_std': Tensor(shape=(26,), dtype=float32),
'action_mean': Tensor(shape=(26,), dtype=float32),
'board_pos': Tensor(shape=(3,), dtype=float32),
'qpos': Tensor(shape=(33,), dtype=float32),
'qvel': Tensor(shape=(33,), dtype=float32),
'target_pos': Tensor(shape=(3,), dtype=float32),
}),
'is_first': bool,
'is_last': bool,
'is_terminal': bool,
'observation': Tensor(shape=(46,), dtype=float32),
'reward': float32,
}),
})
- เอกสารคุณสมบัติ :
คุณสมบัติ | ระดับ | รูปร่าง | ประเภทD | คำอธิบาย |
---|---|---|---|---|
คุณสมบัติDict | ||||
อัลกอริทึม | เทนเซอร์ | เชือก | ||
นโยบาย | คุณสมบัติDict | |||
นโยบาย/fc0 | คุณสมบัติDict | |||
นโยบาย/fc0/อคติ | เทนเซอร์ | (32,) | ลอย32 | |
นโยบาย/fc0/น้ำหนัก | เทนเซอร์ | (32, 46) | ลอย32 | |
นโยบาย/fc1 | คุณสมบัติDict | |||
นโยบาย/fc1/อคติ | เทนเซอร์ | (32,) | ลอย32 | |
นโยบาย/fc1/น้ำหนัก | เทนเซอร์ | (32, 32) | ลอย32 | |
นโยบาย/last_fc | คุณสมบัติDict | |||
นโยบาย/last_fc/อคติ | เทนเซอร์ | (26,) | ลอย32 | |
นโยบาย/last_fc/น้ำหนัก | เทนเซอร์ | (26, 32) | ลอย32 | |
นโยบาย/last_fc_log_std | คุณสมบัติDict | |||
นโยบาย/last_fc_log_std/อคติ | เทนเซอร์ | (26,) | ลอย32 | |
นโยบาย/last_fc_log_std/น้ำหนัก | เทนเซอร์ | (26, 32) | ลอย32 | |
นโยบาย/ความไม่เชิงเส้น | เทนเซอร์ | เชือก | ||
นโยบาย/output_distribution | เทนเซอร์ | เชือก | ||
ขั้นตอน | ชุดข้อมูล | |||
ขั้นตอน/การดำเนินการ | เทนเซอร์ | (26,) | ลอย32 | |
ขั้นตอน/ส่วนลด | เทนเซอร์ | ลอย32 | ||
ขั้นตอน/ข้อมูล | คุณสมบัติDict | |||
ขั้นตอน/ข้อมูล/action_log_std | เทนเซอร์ | (26,) | ลอย32 | |
ขั้นตอน/ข้อมูล/action_mean | เทนเซอร์ | (26,) | ลอย32 | |
ขั้นตอน/ข้อมูล/board_pos | เทนเซอร์ | (3,) | ลอย32 | |
ขั้นตอน/ข้อมูล/qpos | เทนเซอร์ | (33,) | ลอย32 | |
ขั้นตอน/ข้อมูล/qvel | เทนเซอร์ | (33,) | ลอย32 | |
ขั้นตอน/ข้อมูล/target_pos | เทนเซอร์ | (3,) | ลอย32 | |
ขั้นตอน/is_first | เทนเซอร์ | บูล | ||
ขั้นตอน/is_last | เทนเซอร์ | บูล | ||
ขั้นตอน/is_terminal | เทนเซอร์ | บูล | ||
ขั้นตอน/การสังเกต | เทนเซอร์ | (46,) | ลอย32 | |
ขั้นตอน/รางวัล | เทนเซอร์ | ลอย32 |
- ตัวอย่าง ( tfds.as_dataframe ):