c4

Tài liệu tham khảo:

vi

Sử dụng lệnh sau để tải tập dữ liệu này trong TFDS:

ds = tfds.load('huggingface:c4/en')

Sự miêu tả :

A colossal, cleaned version of Common Crawl's web crawl corpus.

Based on Common Crawl dataset: "https://commoncrawl.org".

This is the processed version of Google's C4 dataset by AllenAI.

Giấy phép : Không có giấy phép được biết đến
Phiên bản : 0.0.0
Chia tách :

Tách ra	Ví dụ
`'train'`	364868892
`'validation'`	364608

Đặc trưng :

{
    "text": {
        "dtype": "string",
        "id": null,
        "_type": "Value"
    },
    "timestamp": {
        "dtype": "string",
        "id": null,
        "_type": "Value"
    },
    "url": {
        "dtype": "string",
        "id": null,
        "_type": "Value"
    }
}

vi.noblocklist

Sử dụng lệnh sau để tải tập dữ liệu này trong TFDS:

ds = tfds.load('huggingface:c4/en.noblocklist')

Sự miêu tả :

A colossal, cleaned version of Common Crawl's web crawl corpus.

Based on Common Crawl dataset: "https://commoncrawl.org".

This is the processed version of Google's C4 dataset by AllenAI.

Giấy phép : Không có giấy phép được biết đến
Phiên bản : 0.0.0
Chia tách :

Tách ra	Ví dụ
`'train'`	393391519
`'validation'`	393226

Đặc trưng :

{
    "text": {
        "dtype": "string",
        "id": null,
        "_type": "Value"
    },
    "timestamp": {
        "dtype": "string",
        "id": null,
        "_type": "Value"
    },
    "url": {
        "dtype": "string",
        "id": null,
        "_type": "Value"
    }
}

giống như tin tức thực tế

Sử dụng lệnh sau để tải tập dữ liệu này trong TFDS:

ds = tfds.load('huggingface:c4/realnewslike')

Sự miêu tả :

A colossal, cleaned version of Common Crawl's web crawl corpus.

Based on Common Crawl dataset: "https://commoncrawl.org".

This is the processed version of Google's C4 dataset by AllenAI.

Giấy phép : Không có giấy phép được biết đến
Phiên bản : 0.0.0
Chia tách :

Tách ra	Ví dụ
`'train'`	13799838
`'validation'`	13863

Đặc trưng :

{
    "text": {
        "dtype": "string",
        "id": null,
        "_type": "Value"
    },
    "timestamp": {
        "dtype": "string",
        "id": null,
        "_type": "Value"
    },
    "url": {
        "dtype": "string",
        "id": null,
        "_type": "Value"
    }
}

vi.noclean

Sử dụng lệnh sau để tải tập dữ liệu này trong TFDS:

ds = tfds.load('huggingface:c4/en.noclean')

Sự miêu tả :

A colossal, cleaned version of Common Crawl's web crawl corpus.

Based on Common Crawl dataset: "https://commoncrawl.org".

This is the processed version of Google's C4 dataset by AllenAI.

Giấy phép : Không có giấy phép được biết đến
Phiên bản : 0.0.0
Chia tách :

Tách ra	Ví dụ
`'train'`	1063805381
`'validation'`	1065029

Đặc trưng :

{
    "text": {
        "dtype": "string",
        "id": null,
        "_type": "Value"
    },
    "timestamp": {
        "dtype": "string",
        "id": null,
        "_type": "Value"
    },
    "url": {
        "dtype": "string",
        "id": null,
        "_type": "Value"
    }
}