- বর্ণনা :
পরিসংখ্যানগত ভাষা মডেলিংয়ের অগ্রগতি পরিমাপের জন্য একটি বেঞ্চমার্ক কর্পাস ব্যবহার করা হবে। এই প্রশিক্ষণ তথ্য প্রায় এক বিলিয়ন শব্দ আছে.
হোমপেজ : http://www.statmt.org/lm-benchmark/
সোর্স কোড :
tfds.datasets.lm1b.Builder
সংস্করণ :
-
1.1.0
(ডিফল্ট): কোনো রিলিজ নোট নেই।
-
ডাউনলোড আকার :
1.67 GiB
ডেটাসেটের আকার :
4.40 GiB
স্বয়ংক্রিয় ক্যাশে ( ডকুমেন্টেশন ): না
বিভাজন :
বিভক্ত | উদাহরণ |
---|---|
'test' | 306,688 |
'train' | 30,301,028 |
- বৈশিষ্ট্য গঠন :
FeaturesDict({
'text': Text(shape=(), dtype=string),
})
- বৈশিষ্ট্য ডকুমেন্টেশন :
বৈশিষ্ট্য | ক্লাস | আকৃতি | ডিটাইপ | বর্ণনা |
---|---|---|---|---|
ফিচারসডিক্ট | ||||
পাঠ্য | পাঠ্য | স্ট্রিং |
তত্ত্বাবধানে থাকা কী (
as_supervised
doc হিসাবে):('text', 'text')
চিত্র ( tfds.show_examples ): সমর্থিত নয়।
উদাহরণ ( tfds.as_dataframe ):
- উদ্ধৃতি :
@article{DBLP:journals/corr/ChelbaMSGBK13,
author = {Ciprian Chelba and
Tomas Mikolov and
Mike Schuster and
Qi Ge and
Thorsten Brants and
Phillipp Koehn},
title = {One Billion Word Benchmark for Measuring Progress in Statistical Language
Modeling},
journal = {CoRR},
volume = {abs/1312.3005},
year = {2013},
url = {http://arxiv.org/abs/1312.3005},
archivePrefix = {arXiv},
eprint = {1312.3005},
timestamp = {Mon, 13 Aug 2018 16:46:16 +0200},
biburl = {https://dblp.org/rec/bib/journals/corr/ChelbaMSGBK13},
bibsource = {dblp computer science bibliography, https://dblp.org}
}