- Descrizione :
Traduci il set di dati in base ai dati di statmt.org.
Esistono versioni per i diversi anni utilizzando una combinazione di più fonti di dati. La base wmt_translate
ti consente di creare la tua configurazione per scegliere la tua coppia dati/lingua creando un tfds.translate.wmt.WmtConfig
personalizzato.
config = tfds.translate.wmt.WmtConfig(
version="0.0.1",
language_pair=("fr", "de"),
subsets={
tfds.Split.TRAIN: ["commoncrawl_frde"],
tfds.Split.VALIDATION: ["euelections_dev2019"],
},
)
builder = tfds.builder("wmt_translate", config=config)
Pagina iniziale : http://www.statmt.org/wmt19/translation-task.html
Codice sorgente :
tfds.translate.Wmt19Translate
Versioni :
-
1.0.0
(impostazione predefinita): nessuna nota di rilascio.
-
Istruzioni per il download manuale : questo set di dati richiede di scaricare manualmente i dati di origine in
download_config.manual_dir
(il valore predefinito~/tensorflow_datasets/downloads/manual/
):
Alcune delle configurazioni wmt qui richiedono un download manuale. Si prega di guardare in wmt.py per vedere il percorso esatto (e il nome del file) che deve essere scaricato.Figura ( tfds.show_examples ): non supportato.
Citazione :
@ONLINE {wmt19translate,
author = "Wikimedia Foundation",
title = "ACL 2019 Fourth Conference on Machine Translation (WMT19), Shared Task: Machine Translation of News",
url = "http://www.statmt.org/wmt19/translation-task.html"
}
wmt19_translate/cs-en (configurazione predefinita)
Descrizione della configurazione : set di dati dell'attività di traduzione cs-en WMT 2019.
Dimensione del download :
1.88 GiB
Dimensione del set di dati:
3.64 GiB
Cache automatica ( documentazione ): No
Divisioni :
Diviso | Esempi |
---|---|
'train' | 20.246.548 |
'validation' | 2.983 |
- Struttura delle caratteristiche :
Translation({
'cs': Text(shape=(), dtype=string),
'en': Text(shape=(), dtype=string),
})
- Documentazione delle funzionalità :
Caratteristica | Classe | Forma | Tipo D | Descrizione |
---|---|---|---|---|
Traduzione | ||||
cs | Testo | corda | ||
it | Testo | corda |
Chiavi supervisionate (vedi
as_supervised
doc ):('cs', 'en')
Esempi ( tfds.as_dataframe ):
wmt19_translate/de-en
Descrizione della configurazione : set di dati dell'attività di traduzione de-en WMT 2019.
Dimensioni del download :
9.71 GiB
Dimensione del set di dati:
8.60 GiB
Cache automatica ( documentazione ): No
Divisioni :
Diviso | Esempi |
---|---|
'train' | 38.690.334 |
'validation' | 2.998 |
- Struttura delle caratteristiche :
Translation({
'de': Text(shape=(), dtype=string),
'en': Text(shape=(), dtype=string),
})
- Documentazione delle funzionalità :
Caratteristica | Classe | Forma | Tipo D | Descrizione |
---|---|---|---|---|
Traduzione | ||||
de | Testo | corda | ||
it | Testo | corda |
Chiavi supervisionate (Vedi
as_supervised
doc ):('de', 'en')
Esempi ( tfds.as_dataframe ):
wmt19_translate/fi-en
Descrizione della configurazione : set di dati dell'attività di traduzione fi-en WMT 2019.
Dimensione del download :
959.46 MiB
Dimensione del set di dati:
1.46 GiB
Cache automatica ( documentazione ): No
Divisioni :
Diviso | Esempi |
---|---|
'train' | 6.587.448 |
'validation' | 3.000 |
- Struttura delle caratteristiche :
Translation({
'en': Text(shape=(), dtype=string),
'fi': Text(shape=(), dtype=string),
})
- Documentazione delle funzionalità :
Caratteristica | Classe | Forma | Tipo D | Descrizione |
---|---|---|---|---|
Traduzione | ||||
it | Testo | corda | ||
fi | Testo | corda |
Chiavi supervisionate (vedi
as_supervised
doc ):('fi', 'en')
Esempi ( tfds.as_dataframe ):
wmt19_translate/gu-en
Descrizione della configurazione : set di dati dell'attività di traduzione gu-en WMT 2019.
Dimensione del download :
37.03 MiB
Dimensione del set di dati :
1.55 MiB
Auto-cache ( documentazione ): Sì
Divisioni :
Diviso | Esempi |
---|---|
'train' | 11.670 |
'validation' | 1.998 |
- Struttura delle caratteristiche :
Translation({
'en': Text(shape=(), dtype=string),
'gu': Text(shape=(), dtype=string),
})
- Documentazione delle funzionalità :
Caratteristica | Classe | Forma | Tipo D | Descrizione |
---|---|---|---|---|
Traduzione | ||||
it | Testo | corda | ||
GU | Testo | corda |
Chiavi supervisionate (vedi
as_supervised
doc ):('gu', 'en')
Esempi ( tfds.as_dataframe ):
wmt19_translate/kk-en
Descrizione della configurazione : set di dati dell'attività di traduzione kk-en WMT 2019.
Dimensione del download :
39.58 MiB
Dimensione del set di dati:
11.82 MiB
Auto-cache ( documentazione ): Sì
Divisioni :
Diviso | Esempi |
---|---|
'train' | 126.583 |
'validation' | 2.066 |
- Struttura delle caratteristiche :
Translation({
'en': Text(shape=(), dtype=string),
'kk': Text(shape=(), dtype=string),
})
- Documentazione delle funzionalità :
Caratteristica | Classe | Forma | Tipo D | Descrizione |
---|---|---|---|---|
Traduzione | ||||
it | Testo | corda | ||
kk | Testo | corda |
Chiavi supervisionate (vedi
as_supervised
doc ):('kk', 'en')
Esempi ( tfds.as_dataframe ):
wmt19_translate/lt-en
Descrizione della configurazione : set di dati dell'attività di traduzione lt-en WMT 2019.
Dimensione del download :
392.20 MiB
Dimensione del set di dati:
537.26 MiB
Cache automatica ( documentazione ): No
Divisioni :
Diviso | Esempi |
---|---|
'train' | 2.344.893 |
'validation' | 2.000 |
- Struttura delle caratteristiche :
Translation({
'en': Text(shape=(), dtype=string),
'lt': Text(shape=(), dtype=string),
})
- Documentazione delle funzionalità :
Caratteristica | Classe | Forma | Tipo D | Descrizione |
---|---|---|---|---|
Traduzione | ||||
it | Testo | corda | ||
lt | Testo | corda |
Chiavi supervisionate (vedi
as_supervised
doc ):('lt', 'en')
Esempi ( tfds.as_dataframe ):
wmt19_translate/ru-en
Descrizione della configurazione : set di dati dell'attività di traduzione ru-en WMT 2019.
Dimensione del download :
1.57 GiB
Dimensione del set di dati:
13.95 GiB
Cache automatica ( documentazione ): No
Divisioni :
Diviso | Esempi |
---|---|
'train' | 38.492.126 |
'validation' | 3.000 |
- Struttura delle caratteristiche :
Translation({
'en': Text(shape=(), dtype=string),
'ru': Text(shape=(), dtype=string),
})
- Documentazione delle funzionalità :
Caratteristica | Classe | Forma | Tipo D | Descrizione |
---|---|---|---|---|
Traduzione | ||||
it | Testo | corda | ||
ru | Testo | corda |
Chiavi supervisionate (vedi
as_supervised
doc ):('ru', 'en')
Esempi ( tfds.as_dataframe ):
wmt19_translate/zh-en
Descrizione della configurazione : set di dati dell'attività di traduzione WMT 2019 zh-en.
Dimensione del download :
770.91 MiB
Dimensione del set di dati:
6.49 GiB
Cache automatica ( documentazione ): No
Divisioni :
Diviso | Esempi |
---|---|
'train' | 25.986.436 |
'validation' | 3.981 |
- Struttura delle caratteristiche :
Translation({
'en': Text(shape=(), dtype=string),
'zh': Text(shape=(), dtype=string),
})
- Documentazione delle funzionalità :
Caratteristica | Classe | Forma | Tipo D | Descrizione |
---|---|---|---|---|
Traduzione | ||||
it | Testo | corda | ||
zh | Testo | corda |
Chiavi supervisionate (vedi
as_supervised
doc ):('zh', 'en')
Esempi ( tfds.as_dataframe ):
wmt19_translate/fr-de
Descrizione della configurazione : set di dati dell'attività di traduzione fr-de WMT 2019.
Dimensione del download :
722.20 MiB
Dimensione del set di dati:
2.39 GiB
Cache automatica ( documentazione ): No
Divisioni :
Diviso | Esempi |
---|---|
'train' | 9.824.476 |
'validation' | 1.512 |
- Struttura delle caratteristiche :
Translation({
'de': Text(shape=(), dtype=string),
'fr': Text(shape=(), dtype=string),
})
- Documentazione delle funzionalità :
Caratteristica | Classe | Forma | Tipo D | Descrizione |
---|---|---|---|---|
Traduzione | ||||
de | Testo | corda | ||
fr | Testo | corda |
Chiavi supervisionate (Vedi
as_supervised
doc ):('fr', 'de')
Esempi ( tfds.as_dataframe ):