c4

Referências:

pt

Use o seguinte comando para carregar este conjunto de dados no TFDS:

ds = tfds.load('huggingface:c4/en')

Descrição :

A colossal, cleaned version of Common Crawl's web crawl corpus.

Based on Common Crawl dataset: "https://commoncrawl.org".

This is the processed version of Google's C4 dataset by AllenAI.

Licença : Nenhuma licença conhecida
Versão : 0.0.0
Divisões :

Dividir	Exemplos
`'train'`	364868892
`'validation'`	364608

Características :

{
    "text": {
        "dtype": "string",
        "id": null,
        "_type": "Value"
    },
    "timestamp": {
        "dtype": "string",
        "id": null,
        "_type": "Value"
    },
    "url": {
        "dtype": "string",
        "id": null,
        "_type": "Value"
    }
}

pt.noblocklist

Use o seguinte comando para carregar este conjunto de dados no TFDS:

ds = tfds.load('huggingface:c4/en.noblocklist')

Descrição :

A colossal, cleaned version of Common Crawl's web crawl corpus.

Based on Common Crawl dataset: "https://commoncrawl.org".

This is the processed version of Google's C4 dataset by AllenAI.

Licença : Nenhuma licença conhecida
Versão : 0.0.0
Divisões :

Dividir	Exemplos
`'train'`	393391519
`'validation'`	393226

Características :

{
    "text": {
        "dtype": "string",
        "id": null,
        "_type": "Value"
    },
    "timestamp": {
        "dtype": "string",
        "id": null,
        "_type": "Value"
    },
    "url": {
        "dtype": "string",
        "id": null,
        "_type": "Value"
    }
}

notícias reais

Use o seguinte comando para carregar este conjunto de dados no TFDS:

ds = tfds.load('huggingface:c4/realnewslike')

Descrição :

A colossal, cleaned version of Common Crawl's web crawl corpus.

Based on Common Crawl dataset: "https://commoncrawl.org".

This is the processed version of Google's C4 dataset by AllenAI.

Licença : Nenhuma licença conhecida
Versão : 0.0.0
Divisões :

Dividir	Exemplos
`'train'`	13799838
`'validation'`	13863

Características :

{
    "text": {
        "dtype": "string",
        "id": null,
        "_type": "Value"
    },
    "timestamp": {
        "dtype": "string",
        "id": null,
        "_type": "Value"
    },
    "url": {
        "dtype": "string",
        "id": null,
        "_type": "Value"
    }
}

pt.noclean

Use o seguinte comando para carregar este conjunto de dados no TFDS:

ds = tfds.load('huggingface:c4/en.noclean')

Descrição :

A colossal, cleaned version of Common Crawl's web crawl corpus.

Based on Common Crawl dataset: "https://commoncrawl.org".

This is the processed version of Google's C4 dataset by AllenAI.

Licença : Nenhuma licença conhecida
Versão : 0.0.0
Divisões :

Dividir	Exemplos
`'train'`	1063805381
`'validation'`	1065029

Características :

{
    "text": {
        "dtype": "string",
        "id": null,
        "_type": "Value"
    },
    "timestamp": {
        "dtype": "string",
        "id": null,
        "_type": "Value"
    },
    "url": {
        "dtype": "string",
        "id": null,
        "_type": "Value"
    }
}