- Açıklama :
Veri kümesini statmt.org'daki verilere göre çevirin.
Sürümler, birden çok veri kaynağının bir kombinasyonu kullanılarak farklı yıllar için mevcuttur. Temel wmt_translate
, özel bir tfds.translate.wmt.WmtConfig
oluşturarak kendi veri/dil çiftinizi seçmek için kendi yapılandırmanızı oluşturmanıza olanak tanır.
config = tfds.translate.wmt.WmtConfig(
version="0.0.1",
language_pair=("fr", "de"),
subsets={
tfds.Split.TRAIN: ["commoncrawl_frde"],
tfds.Split.VALIDATION: ["euelections_dev2019"],
},
)
builder = tfds.builder("wmt_translate", config=config)
Ana Sayfa : http://www.statmt.org/wmt16/translation-task.html
Kaynak kodu :
tfds.translate.Wmt16Translate
sürümler :
-
1.0.0
(varsayılan): Sürüm notu yok.
-
Manuel indirme talimatları : Bu veri kümesi, kaynak verileri manuel olarak download_config.manual_dir içine
download_config.manual_dir
gerektirir (varsayılan olarak~/tensorflow_datasets/downloads/manual/
):
Buradaki wmt yapılandırmalarından bazıları manuel indirme gerektirir. İndirilmesi gereken tam yolu (ve dosya adını) görmek için lütfen wmt.py'ye bakın.Şekil ( tfds.show_examples ): Desteklenmiyor.
Alıntı :
@InProceedings{bojar-EtAl:2016:WMT1,
author = {Bojar, Ond
{r}ej and Chatterjee, Rajen and Federmann, Christian and Graham, Yvette and Haddow, Barry and Huck, Matthias and Jimeno Yepes, Antonio and Koehn, Philipp and Logacheva, Varvara and Monz, Christof and Negri, Matteo and Neveol, Aurelie and Neves, Mariana and Popel, Martin and Post, Matt and Rubino, Raphael and Scarton, Carolina and Specia, Lucia and Turchi, Marco and Verspoor, Karin and Zampieri, Marcos},
title = {Findings of the 2016 Conference on Machine Translation},
booktitle = {Proceedings of the First Conference on Machine Translation},
month = {August},
year = {2016},
address = {Berlin, Germany},
publisher = {Association for Computational Linguistics},
pages = {131--198},
url = {http://www.aclweb.org/anthology/W/W16/W16-2301}
}
wmt16_translate/cs-en (varsayılan yapılandırma)
Yapılandırma açıklaması : WMT 2016 cs-en çeviri görevi veri kümesi.
İndirme boyutu :
1.57 GiB
Veri kümesi boyutu :
7.56 GiB
Otomatik önbelleğe alınmış ( belgeleme ): Hayır
bölmeler :
Bölmek | örnekler |
---|---|
'test' | 2.999 |
'train' | 52.335.651 |
'validation' | 2.656 |
- Özellik yapısı :
Translation({
'cs': Text(shape=(), dtype=string),
'en': Text(shape=(), dtype=string),
})
- Özellik belgeleri :
Özellik | Sınıf | Şekil | Dtipi | Tanım |
---|---|---|---|---|
Tercüme | ||||
cs | Metin | sicim | ||
tr | Metin | sicim |
Denetlenen anahtarlar (Bkz
as_supervised
doc ):('cs', 'en')
Örnekler ( tfds.as_dataframe ):
wmt16_translate/de-en
Yapılandırma açıklaması : WMT 2016 de-en çeviri görevi veri kümesi.
İndirme boyutu :
1.57 GiB
Veri kümesi boyutu :
1.38 GiB
Otomatik önbelleğe alınmış ( belgeleme ): Hayır
bölmeler :
Bölmek | örnekler |
---|---|
'test' | 2.999 |
'train' | 4.548.885 |
'validation' | 2.169 |
- Özellik yapısı :
Translation({
'de': Text(shape=(), dtype=string),
'en': Text(shape=(), dtype=string),
})
- Özellik belgeleri :
Özellik | Sınıf | Şekil | Dtipi | Tanım |
---|---|---|---|---|
Tercüme | ||||
de | Metin | sicim | ||
tr | Metin | sicim |
Denetlenen anahtarlar (Bkz
as_supervised
doc ):('de', 'en')
Örnekler ( tfds.as_dataframe ):
wmt16_translate/fi-tr
Yapılandırma açıklaması : WMT 2016 fi-en çeviri görevi veri kümesi.
İndirme boyutu :
260.51 MiB
Veri kümesi boyutu :
624.31 MiB
Otomatik önbelleğe alınmış ( belgeleme ): Hayır
bölmeler :
Bölmek | örnekler |
---|---|
'test' | 6.000 |
'train' | 2.073.394 |
'validation' | 1.370 |
- Özellik yapısı :
Translation({
'en': Text(shape=(), dtype=string),
'fi': Text(shape=(), dtype=string),
})
- Özellik belgeleri :
Özellik | Sınıf | Şekil | Dtipi | Tanım |
---|---|---|---|---|
Tercüme | ||||
tr | Metin | sicim | ||
fi | Metin | sicim |
Denetlenen anahtarlar (Bkz
as_supervised
doc ):('fi', 'en')
Örnekler ( tfds.as_dataframe ):
wmt16_translate/ro-en
Yapılandırma açıklaması : WMT 2016 ro-en çeviri görevi veri kümesi.
İndirme boyutu :
273.83 MiB
Veri kümesi boyutu :
194.35 MiB
Otomatik önbelleğe alınmış ( belgeler ): Evet (test, doğrulama), Yalnızca
shuffle_files=False
(tren) olduğundabölmeler :
Bölmek | örnekler |
---|---|
'test' | 1.999 |
'train' | 610.320 |
'validation' | 1.999 |
- Özellik yapısı :
Translation({
'en': Text(shape=(), dtype=string),
'ro': Text(shape=(), dtype=string),
})
- Özellik belgeleri :
Özellik | Sınıf | Şekil | Dtipi | Tanım |
---|---|---|---|---|
Tercüme | ||||
tr | Metin | sicim | ||
ro | Metin | sicim |
Denetlenen anahtarlar (Bkz
as_supervised
doc ):('ro', 'en')
Örnekler ( tfds.as_dataframe ):
wmt16_translate/ru-tr
Yapılandırma açıklaması : WMT 2016 ru-en çeviri görevi veri kümesi.
İndirme boyutu :
993.38 MiB
Veri kümesi boyutu :
854.44 MiB
Otomatik önbelleğe alınmış ( belgeleme ): Hayır
bölmeler :
Bölmek | örnekler |
---|---|
'test' | 2.998 |
'train' | 2.516.162 |
'validation' | 2.818 |
- Özellik yapısı :
Translation({
'en': Text(shape=(), dtype=string),
'ru': Text(shape=(), dtype=string),
})
- Özellik belgeleri :
Özellik | Sınıf | Şekil | Dtipi | Tanım |
---|---|---|---|---|
Tercüme | ||||
tr | Metin | sicim | ||
ru | Metin | sicim |
Denetlenen anahtarlar (Bkz
as_supervised
doc ):('ru', 'en')
Örnekler ( tfds.as_dataframe ):
wmt16_translate/tr-tr
Yapılandırma açıklaması : WMT 2016 tr-en çeviri görevi veri kümesi.
İndirme boyutu :
59.32 MiB
Veri kümesi boyutu :
63.21 MiB
Otomatik önbelleğe alınmış ( belgeleme ): Evet
bölmeler :
Bölmek | örnekler |
---|---|
'test' | 3.000 |
'train' | 205.756 |
'validation' | 1.001 |
- Özellik yapısı :
Translation({
'en': Text(shape=(), dtype=string),
'tr': Text(shape=(), dtype=string),
})
- Özellik belgeleri :
Özellik | Sınıf | Şekil | Dtipi | Tanım |
---|---|---|---|---|
Tercüme | ||||
tr | Metin | sicim | ||
tr | Metin | sicim |
Denetlenen anahtarlar (Bkz
as_supervised
doc ):('tr', 'en')
Örnekler ( tfds.as_dataframe ):