README.md

metadata

language:
  - ja
license: apache-2.0
size_categories:
  - 1M<n<10M
task_categories:
  - text-generation
  - text2text-generation
dataset_info:
  - config_name: all-corpus
    features:
      - name: dialogue
        sequence:
          - name: speaker
            dtype: int8
          - name: content
            dtype: string
      - name: board
        dtype: string
    splits:
      - name: train
        num_bytes: 1693355620
        num_examples: 8134707
    download_size: 868453263
    dataset_size: 1693355620
  - config_name: all-corpus-cleaned
    features:
      - name: dialogue
        sequence:
          - name: speaker
            dtype: int8
          - name: content
            dtype: string
      - name: board
        dtype: string
    splits:
      - name: train
        num_bytes: 1199092499
        num_examples: 6192730
    download_size: 615570076
    dataset_size: 1199092499
  - config_name: livejupiter
    features:
      - name: dialogue
        sequence:
          - name: speaker
            dtype: int8
          - name: content
            dtype: string
    splits:
      - name: train
        num_bytes: 1101433134
        num_examples: 5943594
    download_size: 592924274
    dataset_size: 1101433134
  - config_name: livejupiter-cleaned
    features:
      - name: dialogue
        sequence:
          - name: speaker
            dtype: int8
          - name: content
            dtype: string
    splits:
      - name: train
        num_bytes: 807499499
        num_examples: 4650253
    download_size: 437414714
    dataset_size: 807499499
  - config_name: news4vip
    features:
      - name: dialogue
        sequence:
          - name: speaker
            dtype: int8
          - name: content
            dtype: string
    splits:
      - name: train
        num_bytes: 420403926
        num_examples: 1973817
    download_size: 240974172
    dataset_size: 420403926
  - config_name: news4vip-cleaned
    features:
      - name: dialogue
        sequence:
          - name: speaker
            dtype: int8
          - name: content
            dtype: string
    splits:
      - name: train
        num_bytes: 269941607
        num_examples: 1402903
    download_size: 156934128
    dataset_size: 269941607
  - config_name: newsplus
    features:
      - name: dialogue
        sequence:
          - name: speaker
            dtype: int8
          - name: content
            dtype: string
    splits:
      - name: train
        num_bytes: 56071294
        num_examples: 217296
    download_size: 32368053
    dataset_size: 56071294
  - config_name: newsplus-cleaned
    features:
      - name: dialogue
        sequence:
          - name: speaker
            dtype: int8
          - name: content
            dtype: string
    splits:
      - name: train
        num_bytes: 33387874
        num_examples: 139574
    download_size: 19556120
    dataset_size: 33387874
  - config_name: ranking
    features:
      - name: dialogue
        sequence:
          - name: speaker
            dtype: int8
          - name: content
            dtype: string
      - name: next
        struct:
          - name: speaker
            dtype: int8
          - name: content
            dtype: string
      - name: random
        sequence: string
    splits:
      - name: train
        num_bytes: 1605628
        num_examples: 2000
      - name: test
        num_bytes: 1604356
        num_examples: 1953
    download_size: 2127033
    dataset_size: 3209984
configs:
  - config_name: all-corpus
    data_files:
      - split: train
        path: all-corpus/train-*
  - config_name: all-corpus-cleaned
    data_files:
      - split: train
        path: all-corpus-cleaned/train-*
  - config_name: livejupiter
    data_files:
      - split: train
        path: livejupiter/train-*
  - config_name: livejupiter-cleaned
    data_files:
      - split: train
        path: livejupiter-cleaned/train-*
  - config_name: news4vip
    data_files:
      - split: train
        path: news4vip/train-*
  - config_name: news4vip-cleaned
    data_files:
      - split: train
        path: news4vip-cleaned/train-*
  - config_name: newsplus
    data_files:
      - split: train
        path: newsplus/train-*
  - config_name: newsplus-cleaned
    data_files:
      - split: train
        path: newsplus-cleaned/train-*
  - config_name: ranking
    data_files:
      - split: train
        path: ranking/train-*
      - split: test
        path: ranking/test-*
tags:
  - not-for-all-audiences

おーぷん2ちゃんねる対話コーパス

Dataset Details

Dataset Description

おーぷん2ちゃんねる対話コーパス を Huggingface Datasets 向けに変換したものになります。

• Curated by: [More Information Needed]
• Language: Japanese
• License: Apache-2.0

Dataset Sources

• Repository: https://github.com/1never/open2ch-dialogue-corpus

Dataset Structure

• all-corpus: livejupiter, news4vip, newsplus サブセットを連結したもの

  • dialogue: 対話データ (list[dict])
    • speaker: 話者番号。1 または 2。
    • content: 発言内容
  • board: 連結元のサブセット名

• livejupiter: オリジナルのデータセットでの livejupiter.tsv から変換されたデータ。

  • dialogue: 対話データ (list[dict])
    • speaker: 話者番号。1 または 2。
    • content: 発言内容

• news4vip: オリジナルのデータセットでの news4vip.tsv から変換されたデータ。

  • 構造は同上

• newsplus: オリジナルのデータセットでの newsplus.tsv から変換されたデータ。

  • 構造は同上

• ranking: 応答順位付けタスク用データ (オリジナルデータセットでの ranking.zip)

  • train と test split があり、それぞれはオリジナルデータセットの dev.tsv と test.tsv に対応します。
  • dialogue: 対話データ (list[dict])
    • speaker: 話者番号。1 または 2。
    • content: 発言内容
  • next: 対話の次に続く正解の応答 (dict)
    • speaker: 話者番号。1 または 2
    • content: 発言内容
  • random: ランダムに選ばれた応答 9 個 (list[str])

また、all-corpus, livejupiter, news4vip, newsplus にはそれぞれ名前に -cleaned が付与されたバージョンがあり、これらのサブセットではオリジナルのデータセットで配布されていた NG ワードリストを利用してフィルタリングされたものです。

オリジナルのデータセットでは各発言内の改行は __BR__ に置換されていますが、このデータセットではすべて \n に置き換えられています。

Dataset Creation

Source Data

(オリジナルのデータセットの説明より)

おーぷん2ちゃんねるの「なんでも実況(ジュピター)」「ニュー速VIP」「ニュース速報+」の3つの掲示板をクロールして作成した対話コーパスです． おーぷん2ちゃんねる開設時から2019年7月20日までのデータを使用して作成しました．

Data Collection and Processing

オリジナルのデータセット を参照。

Personal and Sensitive Information

-cleaned ではないサブセットでは、非常に不適切な表現が多いため注意が必要です。

Usage

from datasets import load_dataset

ds = load_dataset(
    "p1atdev/open2ch",
    name="all-corpus",
)

print(ds)
print(ds["train"][0])
# DatasetDict({
#     train: Dataset({
#         features: ['dialogue', 'board'],
#         num_rows: 8134707
#     })
# })
# {'dialogue': {'speaker': [1, 2], 'content': ['実況スレをたてる', 'おんｊ民の鑑']}, 'board': 'livejupiter'}