- Descriptif :
Un corpus de référence à utiliser pour mesurer les progrès de la modélisation statistique du langage. Cela a près d'un milliard de mots dans les données de formation.
Documentation complémentaire : Explorer sur Papers With Code
Page d'accueil : http://www.statmt.org/lm-benchmark/
Code source :
tfds.datasets.lm1b.Builder
Versions :
-
1.1.0
(par défaut) : aucune note de version.
-
Taille du téléchargement :
1.67 GiB
Taille du jeu de données :
4.40 GiB
Mise en cache automatique ( documentation ): Non
Fractionnements :
Diviser | Exemples |
---|---|
'test' | 306 688 |
'train' | 30 301 028 |
- Structure des fonctionnalités :
FeaturesDict({
'text': Text(shape=(), dtype=string),
})
- Documentation des fonctionnalités :
Caractéristique | Classer | Forme | Dtype | La description |
---|---|---|---|---|
FonctionnalitésDict | ||||
texte | Texte | chaîne de caractères |
Touches supervisées (Voir
as_supervised
doc ):('text', 'text')
Figure ( tfds.show_examples ) : non pris en charge.
Exemples ( tfds.as_dataframe ):
- Citation :
@article{DBLP:journals/corr/ChelbaMSGBK13,
author = {Ciprian Chelba and
Tomas Mikolov and
Mike Schuster and
Qi Ge and
Thorsten Brants and
Phillipp Koehn},
title = {One Billion Word Benchmark for Measuring Progress in Statistical Language
Modeling},
journal = {CoRR},
volume = {abs/1312.3005},
year = {2013},
url = {http://arxiv.org/abs/1312.3005},
archivePrefix = {arXiv},
eprint = {1312.3005},
timestamp = {Mon, 13 Aug 2018 16:46:16 +0200},
biburl = {https://dblp.org/rec/bib/journals/corr/ChelbaMSGBK13},
bibsource = {dblp computer science bibliography, https://dblp.org}
}