- Описание :
Экстремальный тест
Тест Cross-lingual Transfer Evaluation of Multilingual Encoders (XTREME) — это тест для оценки способности предварительно обученных многоязычных моделей к межъязыковому обобщению. Он охватывает 40 типологически разнообразных языков (охватывающих 12 языковых семей) и включает в себя девять задач, которые в совокупности требуют рассуждений о разных уровнях синтаксиса и семантики. Языки в XTREME выбираются для максимального языкового разнообразия, охвата существующих задач и доступности обучающих данных. Среди них много малоизученных языков, таких как дравидийские языки тамильский (на которых говорят в южной Индии, Шри-Ланке и Сингапуре), телугу и малаялам (на которых говорят в основном в южной Индии), а также нигеро-конголезские языки суахили и йоруба, на которых говорят в Африке.
Полное описание бенчмарка см. в статье .
- Домашняя страница :
https://sites.research.google/xtreme
Версии :
-
1.0.0
(по умолчанию): первоначальный выпуск
-
Наборы данных в версии по умолчанию :
-
xnli
:xtreme_xnli:1.1.0
-
pawsx
:xtreme_pawsx:1.0.0
-
pos
:xtreme_pos:1.0.0
- :
ner
wikiann:1.0.0
-
xquad
:xquad:3.0.0
-
mlqa
:mlqa:1.0.0
-
tydiqa
:tydi_qa:3.0.0
- бук :
bucc
bucc:1.0.0
-
tatoeba
:tatoeba:1.0.0
-
Цитата :