- বর্ণনা :
statmt.org থেকে ডেটার উপর ভিত্তি করে ডেটাসেট অনুবাদ করুন।
একাধিক ডেটা উৎসের সংমিশ্রণ ব্যবহার করে বিভিন্ন বছরের জন্য সংস্করণ বিদ্যমান। বেস wmt_translate
আপনাকে একটি কাস্টম tfds.translate.wmt.WmtConfig
তৈরি করে আপনার নিজস্ব ডেটা/ভাষা জুটি চয়ন করতে আপনার নিজস্ব কনফিগার তৈরি করতে দেয়।
config = tfds.translate.wmt.WmtConfig(
version="0.0.1",
language_pair=("fr", "de"),
subsets={
tfds.Split.TRAIN: ["commoncrawl_frde"],
tfds.Split.VALIDATION: ["euelections_dev2019"],
},
)
builder = tfds.builder("wmt_translate", config=config)
সোর্স কোড :
tfds.translate.Wmt17Translate
সংস্করণ :
-
1.0.0
(ডিফল্ট): কোনো রিলিজ নোট নেই।
-
ম্যানুয়াল ডাউনলোডের নির্দেশাবলী : এই ডেটাসেটের জন্য আপনাকে ডাউনলোড_config.manual_dir-এ ম্যানুয়ালি উৎস ডেটা
download_config.manual_dir
করতে হবে (~/tensorflow_datasets/downloads/manual/
ডিফল্ট):
এখানে কিছু wmt কনফিগার, একটি ম্যানুয়াল ডাউনলোড প্রয়োজন। সঠিক পাথ (এবং ফাইলের নাম) যা ডাউনলোড করতে হবে তা দেখতে অনুগ্রহ করে wmt.py দেখুন।চিত্র ( tfds.show_examples ): সমর্থিত নয়।
উদ্ধৃতি :
@InProceedings{bojar-EtAl:2017:WMT1,
author = {Bojar, Ond
{r}ej and Chatterjee, Rajen and Federmann, Christian and Graham, Yvette and Haddow, Barry and Huang, Shujian and Huck, Matthias and Koehn, Philipp and Liu, Qun and Logacheva, Varvara and Monz, Christof and Negri, Matteo and Post, Matt and Rubino, Raphael and Specia, Lucia and Turchi, Marco},
title = {Findings of the 2017 Conference on Machine Translation (WMT17)},
booktitle = {Proceedings of the Second Conference on Machine Translation, Volume 2: Shared Task Papers},
month = {September},
year = {2017},
address = {Copenhagen, Denmark},
publisher = {Association for Computational Linguistics},
pages = {169--214},
url = {http://www.aclweb.org/anthology/W17-4717}
}
wmt17_translate/cs-en (ডিফল্ট কনফিগারেশন)
কনফিগ বিবরণ : WMT 2017 cs-en অনুবাদ টাস্ক ডেটাসেট।
ডাউনলোড সাইজ :
1.66 GiB
ডেটাসেটের আকার :
2.91 GiB
স্বয়ংক্রিয় ক্যাশে ( ডকুমেন্টেশন ): না
বিভাজন :
বিভক্ত | উদাহরণ |
---|---|
'test' | 3,005 |
'train' | 15,851,649 |
'validation' | ২,৯৯৯ |
- বৈশিষ্ট্য গঠন :
Translation({
'cs': Text(shape=(), dtype=string),
'en': Text(shape=(), dtype=string),
})
- বৈশিষ্ট্য ডকুমেন্টেশন :
বৈশিষ্ট্য | ক্লাস | আকৃতি | ডিটাইপ | বর্ণনা |
---|---|---|---|---|
অনুবাদ | ||||
cs | পাঠ্য | স্ট্রিং | ||
en | পাঠ্য | স্ট্রিং |
তত্ত্বাবধানে থাকা কী (
as_supervised
doc ):('cs', 'en')
উদাহরণ ( tfds.as_dataframe ):
wmt17_translate/de-en
কনফিগারেশনের বিবরণ : WMT 2017 ডি-এন অনুবাদ টাস্ক ডেটাসেট।
ডাউনলোড সাইজ :
1.81 GiB
ডেটাসেটের আকার :
1.73 GiB
স্বয়ংক্রিয় ক্যাশে ( ডকুমেন্টেশন ): না
বিভাজন :
বিভক্ত | উদাহরণ |
---|---|
'test' | 3,004 |
'train' | 5,906,184 |
'validation' | ২,৯৯৯ |
- বৈশিষ্ট্য গঠন :
Translation({
'de': Text(shape=(), dtype=string),
'en': Text(shape=(), dtype=string),
})
- বৈশিষ্ট্য ডকুমেন্টেশন :
বৈশিষ্ট্য | ক্লাস | আকৃতি | ডিটাইপ | বর্ণনা |
---|---|---|---|---|
অনুবাদ | ||||
ডি | পাঠ্য | স্ট্রিং | ||
en | পাঠ্য | স্ট্রিং |
তত্ত্বাবধান করা কী (দেখুন
as_supervised
doc ):('de', 'en')
উদাহরণ ( tfds.as_dataframe ):
wmt17_translate/fi-en
কনফিগারেশনের বিবরণ : WMT 2017 ফাই-এন অনুবাদ টাস্ক ডেটাসেট।
ডাউনলোড
414.10 MiB
ডেটাসেটের আকার :
769.87 MiB
স্বয়ংক্রিয় ক্যাশে ( ডকুমেন্টেশন ): না
বিভাজন :
বিভক্ত | উদাহরণ |
---|---|
'test' | 6,004 |
'train' | 2,656,542 |
'validation' | 6,000 |
- বৈশিষ্ট্য গঠন :
Translation({
'en': Text(shape=(), dtype=string),
'fi': Text(shape=(), dtype=string),
})
- বৈশিষ্ট্য ডকুমেন্টেশন :
বৈশিষ্ট্য | ক্লাস | আকৃতি | ডিটাইপ | বর্ণনা |
---|---|---|---|---|
অনুবাদ | ||||
en | পাঠ্য | স্ট্রিং | ||
fi | পাঠ্য | স্ট্রিং |
তত্ত্বাবধান করা কী (দেখুন
as_supervised
doc ):('fi', 'en')
উদাহরণ ( tfds.as_dataframe ):
wmt17_translate/lv-en
কনফিগারেশনের বিবরণ : WMT 2017 lv-en অনুবাদ টাস্ক ডেটাসেট।
ডাউনলোড সাইজ :
161.69 MiB
ডেটাসেটের আকার :
562.26 MiB
স্বয়ংক্রিয় ক্যাশে ( ডকুমেন্টেশন ): না
বিভাজন :
বিভক্ত | উদাহরণ |
---|---|
'test' | 2,001 |
'train' | ৩,৫৬৭,৫২৮ |
'validation' | 2,003 |
- বৈশিষ্ট্য গঠন :
Translation({
'en': Text(shape=(), dtype=string),
'lv': Text(shape=(), dtype=string),
})
- বৈশিষ্ট্য ডকুমেন্টেশন :
বৈশিষ্ট্য | ক্লাস | আকৃতি | ডিটাইপ | বর্ণনা |
---|---|---|---|---|
অনুবাদ | ||||
en | পাঠ্য | স্ট্রিং | ||
lv | পাঠ্য | স্ট্রিং |
তত্ত্বাবধান করা কী (দেখুন
as_supervised
doc ):('lv', 'en')
উদাহরণ ( tfds.as_dataframe ):
wmt17_translate/ru-en
কনফিগার বিবরণ : WMT 2017 ru-en অনুবাদ টাস্ক ডেটাসেট।
ডাউনলোড সাইজ :
1.06 GiB
ডেটাসেটের আকার :
11.18 GiB
স্বয়ংক্রিয় ক্যাশে ( ডকুমেন্টেশন ): না
বিভাজন :
বিভক্ত | উদাহরণ |
---|---|
'test' | 3,001 |
'train' | 25,782,720 |
'validation' | 2,998 |
- বৈশিষ্ট্য গঠন :
Translation({
'en': Text(shape=(), dtype=string),
'ru': Text(shape=(), dtype=string),
})
- বৈশিষ্ট্য ডকুমেন্টেশন :
বৈশিষ্ট্য | ক্লাস | আকৃতি | ডিটাইপ | বর্ণনা |
---|---|---|---|---|
অনুবাদ | ||||
en | পাঠ্য | স্ট্রিং | ||
ru | পাঠ্য | স্ট্রিং |
তত্ত্বাবধান করা কী (দেখুন
as_supervised
doc ):('ru', 'en')
উদাহরণ ( tfds.as_dataframe ):
wmt17_translate/tr-en
কনফিগার বিবরণ : WMT 2017 tr-en অনুবাদ টাস্ক ডেটাসেট।
ডাউনলোড সাইজ :
59.32 MiB
ডেটাসেটের আকার :
63.74 MiB
স্বয়ংক্রিয় ক্যাশে ( ডকুমেন্টেশন ): হ্যাঁ
বিভাজন :
বিভক্ত | উদাহরণ |
---|---|
'test' | 3,007 |
'train' | 205,756 |
'validation' | 3,000 |
- বৈশিষ্ট্য গঠন :
Translation({
'en': Text(shape=(), dtype=string),
'tr': Text(shape=(), dtype=string),
})
- বৈশিষ্ট্য ডকুমেন্টেশন :
বৈশিষ্ট্য | ক্লাস | আকৃতি | ডিটাইপ | বর্ণনা |
---|---|---|---|---|
অনুবাদ | ||||
en | পাঠ্য | স্ট্রিং | ||
tr | পাঠ্য | স্ট্রিং |
তত্ত্বাবধান করা কী (দেখুন
as_supervised
doc ):('tr', 'en')
উদাহরণ ( tfds.as_dataframe ):
wmt17_translate/zh-en
কনফিগার বিবরণ : WMT 2017 zh-en অনুবাদ টাস্ক ডেটাসেট।
ডাউনলোড সাইজ :
884.32 MiB
ডেটাসেটের আকার :
6.43 GiB
স্বয়ংক্রিয় ক্যাশে ( ডকুমেন্টেশন ): না
বিভাজন :
বিভক্ত | উদাহরণ |
---|---|
'test' | 2,001 |
'train' | 25,136,609 |
'validation' | 2,002 |
- বৈশিষ্ট্য গঠন :
Translation({
'en': Text(shape=(), dtype=string),
'zh': Text(shape=(), dtype=string),
})
- বৈশিষ্ট্য ডকুমেন্টেশন :
বৈশিষ্ট্য | ক্লাস | আকৃতি | ডিটাইপ | বর্ণনা |
---|---|---|---|---|
অনুবাদ | ||||
en | পাঠ্য | স্ট্রিং | ||
zh | পাঠ্য | স্ট্রিং |
তত্ত্বাবধান করা কী (দেখুন
as_supervised
doc ):('zh', 'en')
উদাহরণ ( tfds.as_dataframe ):