참고자료:
엔윅8
TFDS에 이 데이터세트를 로드하려면 다음 명령어를 사용하세요.
ds = tfds.load('huggingface:enwik8/enwik8')
- 설명 :
The dataset is based on the Hutter Prize (http://prize.hutter1.net) and contains the first 10^8 byte of Wikipedia
- 라이센스 : 알려진 라이센스 없음
- 버전 : 1.1.0
- 분할 :
나뉘다 | 예 |
---|---|
'train' | 1128024 |
- 특징 :
{
"text": {
"dtype": "string",
"id": null,
"_type": "Value"
}
}
enwik8-raw
TFDS에 이 데이터세트를 로드하려면 다음 명령어를 사용하세요.
ds = tfds.load('huggingface:enwik8/enwik8-raw')
- 설명 :
The dataset is based on the Hutter Prize (http://prize.hutter1.net) and contains the first 10^8 byte of Wikipedia
- 라이센스 : 알려진 라이센스 없음
- 버전 : 1.1.0
- 분할 :
나뉘다 | 예 |
---|---|
'train' | 1 |
- 특징 :
{
"text": {
"dtype": "string",
"id": null,
"_type": "Value"
}
}