- الوصف :
ترجمة مجموعة البيانات بناءً على البيانات من statmt.org.
توجد إصدارات لسنوات مختلفة باستخدام مجموعة من مصادر البيانات المتعددة. يسمح لك wmt_translate
الأساسي بإنشاء التكوين الخاص بك لاختيار زوج البيانات / اللغة الخاص بك عن طريق إنشاء tfds.translate.wmt.WmtConfig
مخصص.
config = tfds.translate.wmt.WmtConfig(
version="0.0.1",
language_pair=("fr", "de"),
subsets={
tfds.Split.TRAIN: ["commoncrawl_frde"],
tfds.Split.VALIDATION: ["euelections_dev2019"],
},
)
builder = tfds.builder("wmt_translate", config=config)
وثائق إضافية : استكشف في الأوراق باستخدام الرمز
الصفحة الرئيسية : http://www.statmt.org/wmt16/translation-task.html
كود المصدر :
tfds.translate.Wmt16Translate
إصدارات :
-
1.0.0
(افتراضي): لا توجد ملاحظات حول الإصدار.
-
إرشادات التنزيل اليدوي : تتطلب مجموعة البيانات هذه تنزيل بيانات المصدر يدويًا إلى
download_config.manual_dir
(الإعدادات الافتراضية على~/tensorflow_datasets/downloads/manual/
):
تتطلب بعض تكوينات wmt هنا تنزيلًا يدويًا. يرجى البحث في wmt.py لمعرفة المسار الدقيق (واسم الملف) الذي يجب تنزيله.الشكل ( tfds.show_examples ): غير مدعوم.
الاقتباس :
@InProceedings{bojar-EtAl:2016:WMT1,
author = {Bojar, Ond
{r}ej and Chatterjee, Rajen and Federmann, Christian and Graham, Yvette and Haddow, Barry and Huck, Matthias and Jimeno Yepes, Antonio and Koehn, Philipp and Logacheva, Varvara and Monz, Christof and Negri, Matteo and Neveol, Aurelie and Neves, Mariana and Popel, Martin and Post, Matt and Rubino, Raphael and Scarton, Carolina and Specia, Lucia and Turchi, Marco and Verspoor, Karin and Zampieri, Marcos},
title = {Findings of the 2016 Conference on Machine Translation},
booktitle = {Proceedings of the First Conference on Machine Translation},
month = {August},
year = {2016},
address = {Berlin, Germany},
publisher = {Association for Computational Linguistics},
pages = {131--198},
url = {http://www.aclweb.org/anthology/W/W16/W16-2301}
}
wmt16_translate / cs-en (التكوين الافتراضي)
وصف التكوين : مجموعة بيانات مهمة الترجمة WMT 2016 cs-en.
حجم التحميل :
1.57 GiB
حجم مجموعة البيانات :
7.56 GiB
التخزين المؤقت التلقائي ( التوثيق ): لا
الانقسامات :
انشق، مزق | أمثلة |
---|---|
'test' | 2،999 |
'train' | 52335651 |
'validation' | 2656 |
- هيكل الميزة :
Translation({
'cs': Text(shape=(), dtype=string),
'en': Text(shape=(), dtype=string),
})
- وثائق الميزة :
ميزة | فصل | شكل | نوع | وصف |
---|---|---|---|---|
ترجمة | ||||
CS | نص | سلسلة | ||
en | نص | سلسلة |
المفاتيح الخاضعة للإشراف (انظر
as_supervised
doc ):('cs', 'en')
أمثلة ( tfds.as_dataframe ):
wmt16_translate / de-en
وصف التكوين : مجموعة بيانات مهمة ترجمة WMT 2016 de-en.
حجم التحميل :
1.57 GiB
حجم مجموعة البيانات :
1.38 GiB
التخزين المؤقت التلقائي ( التوثيق ): لا
الانقسامات :
انشق، مزق | أمثلة |
---|---|
'test' | 2،999 |
'train' | 4،548،885 |
'validation' | 2،169 |
- هيكل الميزة :
Translation({
'de': Text(shape=(), dtype=string),
'en': Text(shape=(), dtype=string),
})
- وثائق الميزة :
ميزة | فصل | شكل | نوع | وصف |
---|---|---|---|---|
ترجمة | ||||
دي | نص | سلسلة | ||
en | نص | سلسلة |
المفاتيح الخاضعة للإشراف (انظر
as_supervised
doc ):('de', 'en')
أمثلة ( tfds.as_dataframe ):
wmt16_translate / fi-en
وصف التكوين : WMT 2016 مجموعة بيانات مهام الترجمة fi-en.
حجم التحميل :
260.51 MiB
حجم مجموعة البيانات :
624.31 MiB
التخزين المؤقت التلقائي ( التوثيق ): لا
الانقسامات :
انشق، مزق | أمثلة |
---|---|
'test' | 6000 |
'train' | 2،073،394 |
'validation' | 1،370 |
- هيكل الميزة :
Translation({
'en': Text(shape=(), dtype=string),
'fi': Text(shape=(), dtype=string),
})
- وثائق الميزة :
ميزة | فصل | شكل | نوع | وصف |
---|---|---|---|---|
ترجمة | ||||
en | نص | سلسلة | ||
فاي | نص | سلسلة |
المفاتيح الخاضعة للإشراف (انظر
as_supervised
doc ):('fi', 'en')
أمثلة ( tfds.as_dataframe ):
wmt16_translate / ro-en
وصف التكوين : مجموعة بيانات مهمة الترجمة WMT 2016 ro-en.
حجم التحميل :
273.83 MiB
حجم مجموعة البيانات :
194.35 MiB
التخزين المؤقت التلقائي ( التوثيق ): نعم (اختبار ، التحقق من الصحة) ، فقط عندما يكون
shuffle_files=False
(قطار)الانقسامات :
انشق، مزق | أمثلة |
---|---|
'test' | 1999 |
'train' | 610320 |
'validation' | 1999 |
- هيكل الميزة :
Translation({
'en': Text(shape=(), dtype=string),
'ro': Text(shape=(), dtype=string),
})
- وثائق الميزة :
ميزة | فصل | شكل | نوع | وصف |
---|---|---|---|---|
ترجمة | ||||
en | نص | سلسلة | ||
ريال عماني | نص | سلسلة |
المفاتيح الخاضعة للإشراف (انظر
as_supervised
doc ):('ro', 'en')
أمثلة ( tfds.as_dataframe ):
wmt16_translate / ru-en
وصف التكوين : مجموعة بيانات مهمة الترجمة WMT 2016 ru-en.
حجم التحميل :
993.38 MiB
حجم مجموعة البيانات :
854.44 MiB
التخزين المؤقت التلقائي ( التوثيق ): لا
الانقسامات :
انشق، مزق | أمثلة |
---|---|
'test' | 2،998 |
'train' | 2،516،162 |
'validation' | 2،818 |
- هيكل الميزة :
Translation({
'en': Text(shape=(), dtype=string),
'ru': Text(shape=(), dtype=string),
})
- وثائق الميزة :
ميزة | فصل | شكل | نوع | وصف |
---|---|---|---|---|
ترجمة | ||||
en | نص | سلسلة | ||
ru | نص | سلسلة |
المفاتيح الخاضعة للإشراف (انظر
as_supervised
doc ):('ru', 'en')
أمثلة ( tfds.as_dataframe ):
wmt16_translate / tr-en
وصف التكوين : مجموعة بيانات مهمة ترجمة WMT 2016 tr-en.
حجم التحميل :
59.32 MiB
حجم مجموعة البيانات :
63.21 MiB
التخزين المؤقت التلقائي ( الوثائق ): نعم
الانقسامات :
انشق، مزق | أمثلة |
---|---|
'test' | 3000 |
'train' | 205756 |
'validation' | 1001 |
- هيكل الميزة :
Translation({
'en': Text(shape=(), dtype=string),
'tr': Text(shape=(), dtype=string),
})
- وثائق الميزة :
ميزة | فصل | شكل | نوع | وصف |
---|---|---|---|---|
ترجمة | ||||
en | نص | سلسلة | ||
آر | نص | سلسلة |
المفاتيح الخاضعة للإشراف (انظر
as_supervised
doc ):('tr', 'en')
أمثلة ( tfds.as_dataframe ):