opus_paracrawl

参考文献:

エルエン

次のコマンドを使用して、このデータセットを TFDS にロードします。

ds = tfds.load('huggingface:opus_paracrawl/el-en')
  • 説明： 
Parallel corpora from Web Crawls collected in the ParaCrawl project
40 languages, 41 bitexts
total number of files: 20,995
total number of tokens: 21.40G
total number of sentence fragments: 1.12G
  • ライセンス: 不明なライセンス
  • バージョン: 1.0.0
  • 分割:
スプリット例
'train' 9402646
  • 特徴： 
{
    "id": {
        "dtype": "string",
        "id": null,
        "_type": "Value"
    },
    "translation": {
        "languages": [
            "el",
            "en"
        ],
        "id": null,
        "_type": "Translation"
    }
}

えんは

次のコマンドを使用して、このデータセットを TFDS にロードします。

ds = tfds.load('huggingface:opus_paracrawl/en-ha')
  • 説明： 
Parallel corpora from Web Crawls collected in the ParaCrawl project
40 languages, 41 bitexts
total number of files: 20,995
total number of tokens: 21.40G
total number of sentence fragments: 1.12G
  • ライセンス: 不明なライセンス
  • バージョン: 1.0.0
  • 分割:
スプリット例
'train' 19694
  • 特徴： 
{
    "id": {
        "dtype": "string",
        "id": null,
        "_type": "Value"
    },
    "translation": {
        "languages": [
            "en",
            "ha"
        ],
        "id": null,
        "_type": "Translation"
    }
}

英語

次のコマンドを使用して、このデータセットを TFDS にロードします。

ds = tfds.load('huggingface:opus_paracrawl/en-ig')
  • 説明： 
Parallel corpora from Web Crawls collected in the ParaCrawl project
40 languages, 41 bitexts
total number of files: 20,995
total number of tokens: 21.40G
total number of sentence fragments: 1.12G
  • ライセンス: 不明なライセンス
  • バージョン: 1.0.0
  • 分割:
スプリット例
'train' 2882​​9
  • 特徴： 
{
    "id": {
        "dtype": "string",
        "id": null,
        "_type": "Value"
    },
    "translation": {
        "languages": [
            "en",
            "ig"
        ],
        "id": null,
        "_type": "Translation"
    }
}

エンキロ

次のコマンドを使用して、このデータセットを TFDS にロードします。 

ds = tfds.load('huggingface:opus_paracrawl/en-km')
  • 説明： 
Parallel corpora from Web Crawls collected in the ParaCrawl project
40 languages, 41 bitexts
total number of files: 20,995
total number of tokens: 21.40G
total number of sentence fragments: 1.12G
  • ライセンス: 不明なライセンス
  • バージョン: 1.0.0
  • 分割:
スプリット例
'train' 65113
  • 特徴： 
{
    "id": {
        "dtype": "string",
        "id": null,
        "_type": "Value"
    },
    "translation": {
        "languages": [
            "en",
            "km"
        ],
        "id": null,
        "_type": "Translation"
    }
}

えんそう

次のコマンドを使用して、このデータセットを TFDS にロードします。 

ds = tfds.load('huggingface:opus_paracrawl/en-so')
  • 説明： 
Parallel corpora from Web Crawls collected in the ParaCrawl project
40 languages, 41 bitexts
total number of files: 20,995
total number of tokens: 21.40G
total number of sentence fragments: 1.12G
  • ライセンス: 不明なライセンス
  • バージョン: 1.0.0
  • 分割:
スプリット例
'train' 14879
  • 特徴： 
{
    "id": {
        "dtype": "string",
        "id": null,
        "_type": "Value"
    },
    "translation": {
        "languages": [
            "en",
            "so"
        ],
        "id": null,
        "_type": "Translation"
    }
}

脱PL

次のコマンドを使用して、このデータセットを TFDS にロードします。 

ds = tfds.load('huggingface:opus_paracrawl/de-pl')
  • 説明： 
Parallel corpora from Web Crawls collected in the ParaCrawl project
40 languages, 41 bitexts
total number of files: 20,995
total number of tokens: 21.40G
total number of sentence fragments: 1.12G
  • ライセンス: 不明なライセンス
  • バージョン: 1.0.0
  • 分割:
スプリット例
'train' 916624
  • 特徴： 
{
    "id": {
        "dtype": "string",
        "id": null,
        "_type": "Value"
    },
    "translation": {
        "languages": [
            "de",
            "pl"
        ],
        "id": null,
        "_type": "Translation"
    }
}

フランス-nl

次のコマンドを使用して、このデータセットを TFDS にロードします。 

ds = tfds.load('huggingface:opus_paracrawl/fr-nl')
  • 説明： 
Parallel corpora from Web Crawls collected in the ParaCrawl project
40 languages, 41 bitexts
total number of files: 20,995
total number of tokens: 21.40G
total number of sentence fragments: 1.12G
  • ライセンス: 不明なライセンス
  • バージョン: 1.0.0
  • 分割:
スプリット例
'train' 2687619
  • 特徴： 
{
    "id": {
        "dtype": "string",
        "id": null,
        "_type": "Value"
    },
    "translation": {
        "languages": [
            "fr",
            "nl"
        ],
        "id": null,
        "_type": "Translation"
    }
}

英語

次のコマンドを使用して、このデータセットを TFDS にロードします。 

ds = tfds.load('huggingface:opus_paracrawl/en-sw')
  • 説明： 
Parallel corpora from Web Crawls collected in the ParaCrawl project
40 languages, 41 bitexts
total number of files: 20,995
total number of tokens: 21.40G
total number of sentence fragments: 1.12G
  • ライセンス: 不明なライセンス
  • バージョン: 1.0.0
  • 分割:
スプリット例
'train' 132517
  • 特徴： 
{
    "id": {
        "dtype": "string",
        "id": null,
        "_type": "Value"
    },
    "translation": {
        "languages": [
            "en",
            "sw"
        ],
        "id": null,
        "_type": "Translation"
    }
}

英語

次のコマンドを使用して、このデータセットを TFDS にロードします。 

ds = tfds.load('huggingface:opus_paracrawl/en-tl')
  • 説明： 
Parallel corpora from Web Crawls collected in the ParaCrawl project
40 languages, 41 bitexts
total number of files: 20,995
total number of tokens: 21.40G
total number of sentence fragments: 1.12G
  • ライセンス: 不明なライセンス
  • バージョン: 1.0.0
  • 分割:
スプリット例
'train' 248684
  • 特徴： 
{
    "id": {
        "dtype": "string",
        "id": null,
        "_type": "Value"
    },
    "translation": {
        "languages": [
            "en",
            "tl"
        ],
        "id": null,
        "_type": "Translation"
    }
}

エスグル

次のコマンドを使用して、このデータセットを TFDS にロードします。 

ds = tfds.load('huggingface:opus_paracrawl/es-gl')
  • 説明： 
Parallel corpora from Web Crawls collected in the ParaCrawl project
40 languages, 41 bitexts
total number of files: 20,995
total number of tokens: 21.40G
total number of sentence fragments: 1.12G
  • ライセンス: 不明なライセンス
  • バージョン: 1.0.0
  • 分割:
スプリット例
'train' 1222862
  • 特徴： 
{
    "id": {
        "dtype": "string",
        "id": null,
        "_type": "Value"
    },
    "translation": {
        "languages": [
            "es",
            "gl"
        ],
        "id": null,
        "_type": "Translation"
    }
}