- Descripción :
Este corpus contiene publicaciones preprocesadas del conjunto de datos de Reddit. El conjunto de datos consta de 3.848.330 publicaciones con una longitud promedio de 270 palabras para el contenido y 28 palabras para el resumen.
Las características incluyen cadenas: autor, cuerpo, cuerpo normalizado, contenido, resumen, subreddit, subreddit_id. El contenido se usa como documento y el resumen se usa como resumen.
Documentación adicional : Explore en Papers With Code
Página de inicio: https://github.com/webis-de/webis-tldr-17-corpus
Código fuente :
tfds.datasets.reddit.Builder
Versiones :
-
1.0.0
(predeterminado): Sin notas de la versión.
-
Tamaño de descarga :
2.93 GiB
Tamaño del conjunto de datos :
18.09 GiB
Almacenamiento automático en caché ( documentación ): No
Divisiones :
Separar | Ejemplos |
---|---|
'train' | 3,848,330 |
- Estructura de características :
FeaturesDict({
'author': string,
'body': string,
'content': string,
'id': string,
'normalizedBody': string,
'subreddit': string,
'subreddit_id': string,
'summary': string,
})
- Documentación de características :
Rasgo | Clase | Forma | Tipo D | Descripción |
---|---|---|---|---|
CaracterísticasDict | ||||
autor | Tensor | cadena | ||
cuerpo | Tensor | cadena | ||
contenido | Tensor | cadena | ||
identificación | Tensor | cadena | ||
cuerpo normalizado | Tensor | cadena | ||
subreddit | Tensor | cadena | ||
subreddit_id | Tensor | cadena | ||
resumen | Tensor | cadena |
Claves supervisadas (ver documento
as_supervised
):('content', 'summary')
Figura ( tfds.show_examples ): no compatible.
Ejemplos ( tfds.as_dataframe ):
- Cita :
@inproceedings{volske-etal-2017-tl,
title = "{TL};{DR}: Mining {R}eddit to Learn Automatic Summarization",
author = {V{\"o}lske, Michael and
Potthast, Martin and
Syed, Shahbaz and
Stein, Benno},
booktitle = "Proceedings of the Workshop on New Frontiers in Summarization",
month = sep,
year = "2017",
address = "Copenhagen, Denmark",
publisher = "Association for Computational Linguistics",
url = "https://www.aclweb.org/anthology/W17-4508",
doi = "10.18653/v1/W17-4508",
pages = "59--63",
abstract = "Recent advances in automatic text summarization have used deep neural networks to generate high-quality abstractive summaries, but the performance of these models strongly depends on large amounts of suitable training data. We propose a new method for mining social media for author-provided summaries, taking advantage of the common practice of appending a {``}TL;DR{''} to long posts. A case study using a large Reddit crawl yields the Webis-TLDR-17 dataset, complementing existing corpora primarily from the news genre. Our technique is likely applicable to other social media sites and general web crawls.",
}