सन्दर्भ:
wiki40b_en_100_0
इस डेटासेट को TFDS में लोड करने के लिए निम्नलिखित कमांड का उपयोग करें:
ds = tfds.load('huggingface:wiki_snippets/wiki40b_en_100_0')
- विवरण :
Wikipedia version split into plain text snippets for dense semantic indexing.
- लाइसेंस : कोई ज्ञात लाइसेंस नहीं
- संस्करण : 1.0.0
- विभाजन :
विभाजित करना | उदाहरण |
---|---|
'train' | 17553713 |
- विशेषताएँ :
{
"_id": {
"dtype": "string",
"id": null,
"_type": "Value"
},
"datasets_id": {
"dtype": "int32",
"id": null,
"_type": "Value"
},
"wiki_id": {
"dtype": "string",
"id": null,
"_type": "Value"
},
"start_paragraph": {
"dtype": "int32",
"id": null,
"_type": "Value"
},
"start_character": {
"dtype": "int32",
"id": null,
"_type": "Value"
},
"end_paragraph": {
"dtype": "int32",
"id": null,
"_type": "Value"
},
"end_character": {
"dtype": "int32",
"id": null,
"_type": "Value"
},
"article_title": {
"dtype": "string",
"id": null,
"_type": "Value"
},
"section_title": {
"dtype": "string",
"id": null,
"_type": "Value"
},
"passage_text": {
"dtype": "string",
"id": null,
"_type": "Value"
}
}
wikipedia_en_100_0
इस डेटासेट को TFDS में लोड करने के लिए निम्नलिखित कमांड का उपयोग करें:
ds = tfds.load('huggingface:wiki_snippets/wikipedia_en_100_0')
- विवरण :
Wikipedia version split into plain text snippets for dense semantic indexing.
- लाइसेंस : कोई ज्ञात लाइसेंस नहीं
- संस्करण : 2.0.0
- विभाजन :
विभाजित करना | उदाहरण |
---|---|
'train' | 33849898 |
- विशेषताएँ :
{
"_id": {
"dtype": "string",
"id": null,
"_type": "Value"
},
"datasets_id": {
"dtype": "int32",
"id": null,
"_type": "Value"
},
"wiki_id": {
"dtype": "string",
"id": null,
"_type": "Value"
},
"start_paragraph": {
"dtype": "int32",
"id": null,
"_type": "Value"
},
"start_character": {
"dtype": "int32",
"id": null,
"_type": "Value"
},
"end_paragraph": {
"dtype": "int32",
"id": null,
"_type": "Value"
},
"end_character": {
"dtype": "int32",
"id": null,
"_type": "Value"
},
"article_title": {
"dtype": "string",
"id": null,
"_type": "Value"
},
"section_title": {
"dtype": "string",
"id": null,
"_type": "Value"
},
"passage_text": {
"dtype": "string",
"id": null,
"_type": "Value"
}
}