the_pile_openwebtext2

Ссылки:

• Код
• Обнимающее лицо

обычный_текст

Используйте следующую команду, чтобы загрузить этот набор данных в TFDS:

ds = tfds.load('huggingface:the_pile_openwebtext2/plain_text')

• Описание :

OpenWebText2 is an enhanced version of the original OpenWebTextCorpus covering all Reddit submissions from 2005 up until April 2020, with further months becoming available after the corresponding PushShift dump files are released.

• Лицензия : Нет известной лицензии.
• Версия : 1.0.0
• Расколы :

• Функции :

{
    "title": {
        "dtype": "string",
        "id": null,
        "_type": "Value"
    },
    "text": {
        "dtype": "string",
        "id": null,
        "_type": "Value"
    }
}