- الوصف :
ترجمة مجموعة البيانات بناءً على البيانات من statmt.org.
توجد إصدارات لسنوات مختلفة باستخدام مجموعة من مصادر البيانات المتعددة. يسمح لك wmt_translate
الأساسي بإنشاء التكوين الخاص بك لاختيار زوج البيانات / اللغة الخاص بك عن طريق إنشاء tfds.translate.wmt.WmtConfig
مخصص.
config = tfds.translate.wmt.WmtConfig(
version="0.0.1",
language_pair=("fr", "de"),
subsets={
tfds.Split.TRAIN: ["commoncrawl_frde"],
tfds.Split.VALIDATION: ["euelections_dev2019"],
},
)
builder = tfds.builder("wmt_translate", config=config)
الصفحة الرئيسية : http://www.statmt.org/wmt17/translation-task.html
كود المصدر :
tfds.translate.Wmt17Translate
إصدارات :
-
1.0.0
(افتراضي): لا توجد ملاحظات حول الإصدار.
-
إرشادات التنزيل اليدوي : تتطلب مجموعة البيانات هذه تنزيل بيانات المصدر يدويًا إلى
download_config.manual_dir
(الإعدادات الافتراضية على~/tensorflow_datasets/downloads/manual/
):
تتطلب بعض تكوينات wmt هنا تنزيلًا يدويًا. يرجى البحث في wmt.py لمعرفة المسار الدقيق (واسم الملف) الذي يجب تنزيله.الشكل ( tfds.show_examples ): غير مدعوم.
الاقتباس :
@InProceedings{bojar-EtAl:2017:WMT1,
author = {Bojar, Ond
{r}ej and Chatterjee, Rajen and Federmann, Christian and Graham, Yvette and Haddow, Barry and Huang, Shujian and Huck, Matthias and Koehn, Philipp and Liu, Qun and Logacheva, Varvara and Monz, Christof and Negri, Matteo and Post, Matt and Rubino, Raphael and Specia, Lucia and Turchi, Marco},
title = {Findings of the 2017 Conference on Machine Translation (WMT17)},
booktitle = {Proceedings of the Second Conference on Machine Translation, Volume 2: Shared Task Papers},
month = {September},
year = {2017},
address = {Copenhagen, Denmark},
publisher = {Association for Computational Linguistics},
pages = {169--214},
url = {http://www.aclweb.org/anthology/W17-4717}
}
wmt17_translate / cs-en (التكوين الافتراضي)
وصف التكوين : مجموعة بيانات مهمة ترجمة WMT 2017 cs-en.
حجم التحميل :
1.66 GiB
حجم مجموعة البيانات :
2.91 GiB
التخزين المؤقت التلقائي ( التوثيق ): لا
الانقسامات :
انشق، مزق | أمثلة |
---|---|
'test' | 3،005 |
'train' | 15851649 |
'validation' | 2،999 |
- هيكل الميزة :
Translation({
'cs': Text(shape=(), dtype=string),
'en': Text(shape=(), dtype=string),
})
- وثائق الميزة :
ميزة | فصل | شكل | نوع | وصف |
---|---|---|---|---|
ترجمة | ||||
CS | نص | سلسلة | ||
en | نص | سلسلة |
المفاتيح الخاضعة للإشراف (انظر
as_supervised
doc ):('cs', 'en')
أمثلة ( tfds.as_dataframe ):
wmt17_translate / de-en
وصف التكوين : مجموعة بيانات مهمة ترجمة WMT 2017 de-en.
حجم التحميل :
1.81 GiB
حجم مجموعة البيانات :
1.73 GiB
التخزين المؤقت التلقائي ( التوثيق ): لا
الانقسامات :
انشق، مزق | أمثلة |
---|---|
'test' | 3،004 |
'train' | 5،906،184 |
'validation' | 2،999 |
- هيكل الميزة :
Translation({
'de': Text(shape=(), dtype=string),
'en': Text(shape=(), dtype=string),
})
- وثائق الميزة :
ميزة | فصل | شكل | نوع | وصف |
---|---|---|---|---|
ترجمة | ||||
دي | نص | سلسلة | ||
en | نص | سلسلة |
المفاتيح الخاضعة للإشراف (انظر
as_supervised
doc ):('de', 'en')
أمثلة ( tfds.as_dataframe ):
wmt17_translate / fi-en
وصف التكوين : WMT 2017 مجموعة بيانات مهام الترجمة fi-en.
حجم التحميل :
414.10 MiB
حجم مجموعة البيانات :
769.87 MiB
التخزين المؤقت التلقائي ( التوثيق ): لا
الانقسامات :
انشق، مزق | أمثلة |
---|---|
'test' | 6،004 |
'train' | 2،656،542 |
'validation' | 6000 |
- هيكل الميزة :
Translation({
'en': Text(shape=(), dtype=string),
'fi': Text(shape=(), dtype=string),
})
- وثائق الميزة :
ميزة | فصل | شكل | نوع | وصف |
---|---|---|---|---|
ترجمة | ||||
en | نص | سلسلة | ||
فاي | نص | سلسلة |
المفاتيح الخاضعة للإشراف (انظر
as_supervised
doc ):('fi', 'en')
أمثلة ( tfds.as_dataframe ):
wmt17_translate / lv-en
وصف التكوين : مجموعة بيانات مهمة ترجمة WMT 2017 lv-en.
حجم التحميل :
161.69 MiB
حجم مجموعة البيانات :
562.26 MiB
التخزين المؤقت التلقائي ( التوثيق ): لا
الانقسامات :
انشق، مزق | أمثلة |
---|---|
'test' | 2001 |
'train' | 3،567،528 |
'validation' | 2،003 |
- هيكل الميزة :
Translation({
'en': Text(shape=(), dtype=string),
'lv': Text(shape=(), dtype=string),
})
- وثائق الميزة :
ميزة | فصل | شكل | نوع | وصف |
---|---|---|---|---|
ترجمة | ||||
en | نص | سلسلة | ||
lv | نص | سلسلة |
المفاتيح الخاضعة للإشراف (انظر
as_supervised
doc ):('lv', 'en')
أمثلة ( tfds.as_dataframe ):
wmt17_translate / ru-en
وصف التكوين : مجموعة بيانات مهمة الترجمة WMT 2017 ru-en.
حجم التحميل :
1.06 GiB
حجم مجموعة البيانات :
11.18 GiB
التخزين المؤقت التلقائي ( التوثيق ): لا
الانقسامات :
انشق، مزق | أمثلة |
---|---|
'test' | 3،001 |
'train' | 25،782،720 |
'validation' | 2،998 |
- هيكل الميزة :
Translation({
'en': Text(shape=(), dtype=string),
'ru': Text(shape=(), dtype=string),
})
- وثائق الميزة :
ميزة | فصل | شكل | نوع | وصف |
---|---|---|---|---|
ترجمة | ||||
en | نص | سلسلة | ||
ru | نص | سلسلة |
المفاتيح الخاضعة للإشراف (انظر
as_supervised
doc ):('ru', 'en')
أمثلة ( tfds.as_dataframe ):
wmt17_translate / tr-en
وصف التكوين : مجموعة بيانات مهمة ترجمة WMT 2017 tr-en.
حجم التحميل :
59.32 MiB
حجم مجموعة البيانات :
63.74 MiB
التخزين المؤقت التلقائي ( الوثائق ): نعم
الانقسامات :
انشق، مزق | أمثلة |
---|---|
'test' | 3،007 |
'train' | 205756 |
'validation' | 3000 |
- هيكل الميزة :
Translation({
'en': Text(shape=(), dtype=string),
'tr': Text(shape=(), dtype=string),
})
- وثائق الميزة :
ميزة | فصل | شكل | نوع | وصف |
---|---|---|---|---|
ترجمة | ||||
en | نص | سلسلة | ||
آر | نص | سلسلة |
المفاتيح الخاضعة للإشراف (انظر
as_supervised
doc ):('tr', 'en')
أمثلة ( tfds.as_dataframe ):
wmt17_translate / zh-en
وصف التكوين : مجموعة بيانات مهمة الترجمة WMT 2017 zh-en.
حجم التحميل :
884.32 MiB
حجم مجموعة البيانات :
6.43 GiB
التخزين المؤقت التلقائي ( التوثيق ): لا
الانقسامات :
انشق، مزق | أمثلة |
---|---|
'test' | 2001 |
'train' | 25136609 |
'validation' | 2،002 |
- هيكل الميزة :
Translation({
'en': Text(shape=(), dtype=string),
'zh': Text(shape=(), dtype=string),
})
- وثائق الميزة :
ميزة | فصل | شكل | نوع | وصف |
---|---|---|---|---|
ترجمة | ||||
en | نص | سلسلة | ||
zh | نص | سلسلة |
المفاتيح الخاضعة للإشراف (انظر
as_supervised
doc ):('zh', 'en')
أمثلة ( tfds.as_dataframe ):