Tài liệu tham khảo:
tiếng swahili
Sử dụng lệnh sau để tải tập dữ liệu này trong TFDS:
ds = tfds.load('huggingface:swahili/swahili')
- Sự miêu tả :
The Swahili dataset developed specifically for language modeling task.
The dataset contains 28,000 unique words with 6.84M, 970k, and 2M words for the train,
valid and test partitions respectively which represent the ratio 80:10:10.
The entire dataset is lowercased, has no punctuation marks and,
the start and end of sentence markers have been incorporated to facilitate easy tokenization during language modeling.
- Giấy phép : Attribution 4.0 International
- Phiên bản : 1.0.0
- Chia tách :
Tách ra | Ví dụ |
---|---|
'test' | 3371 |
'train' | 42069 |
'validation' | 3372 |
- Đặc trưng :
{
"text": {
"dtype": "string",
"id": null,
"_type": "Value"
}
}