Dataset Viewer

The dataset viewer is not available because its heuristics could not detect any supported data files. You can try uploading some data files, or configuring the data files location manually.

allenai/cosmos_qa(複製)

データの内容

日常の語りを題材に、文脈に明記されていない原因や結果を推論させる四択の読解問題のデータ。1 行が 1 問で、本文を context、問いを question、選択肢を answer0 から answer3、正解の番号を label に入れている。文脈の範囲を超える推論を要する問いを集めたものである。

データの概要

項目 値
行数 35,210(1 構成・3 分割の合計)
列数 8
容量 13 KB(ファイル 3 本)
ファイルの形式 py 1
言語 en
公開 public

構成と分割

構成(config) 分割(split)ごとの行数 列数
default train 25,262、test 6,963、validation 2,985 8

列(構成 default)

列 型
id string
context string
question string
answer0 string
answer1 string
answer2 string
answer3 string
label int32

行数と列は元のカードの YAML(dataset_info)の記載。データセットビューアでは読めなかった。全データセットの一覧は HYUKI5/dataset-catalog にある。

複製について

allenai/cosmos_qa をリビジョン 28d9d5e2aae025e73e11177891a88dba51190013 の時点でそのまま複製したもの。中身は変えていない。判断モデル Laya(convaiinnovations/laya)の微調整に使う候補として、調査メモ(Laya 学習用データセット調査)に載せたデータを集めている。

出典

論文

アノテーションの方法

収集の根拠

More Information Needed

初期のデータ収集と正規化

More Information Needed

元の言語の作成者は誰か?

More Information Needed

アノテーションの過程

More Information Needed

微調整に使うときの注意

  • 調査メモの台帳での区分: A(許諾型のライセンスだけで、疑義の注記が無い)。区分は記載の文言で機械的に付けたもので、法的な判定ではない。学習に入れる前に元のカードとライセンスの原文で確かめる。
  • Laya の入力は 2,048 token まで(ModernBERT-large / mmBERT)。長い本文は先頭から黙って切られるので、切れる行は事前に除くか、要約・切り出しをしてから入れる。
  • 分割は記事・文書単位で行い、同じ本文から作った別の問いを学習側と較正側に分けない。温度と閾値は学習に使っていない分割で別々に当てる。

調査メモの記述

メモ 節 ライセンス(記載) 確認 注記
general_english_nlu.md 3. yes/no QA と多肢選択 QA(noul / choice に変換) (L181) cc-by-4.0 確認済 原文注記: - allenai/cosmos_qa: arXiv 1909.00277(タグ)。train 25,262 / val 2,985 / test 6,963。4 択。license cc-by-4.0。API down
jev_sources_tasksource_bekko.csv CSV(tasksource-jev-typed-decisions) cc-by-4.0 / license_use=commercial 確認済 license_use=commercial / [Jev 元データ source] source_annotation_converted(deterministic recast; no model r

元のカード(日本語訳)

以下は元のデータセットのカードの本文を日本語に訳したもの(機械翻訳)。訳に疑問があるときは、末尾の原文を確かめる。


"cosmos_qa" のデータセットカード

目次

  • データセットの説明
    • データセットの概要
    • 対応するタスクとリーダーボード
    • 言語
  • データセットの構造
    • データのインスタンス
    • データのフィールド
    • データの分割
  • データセットの作成
    • 収集の根拠
    • 元データ
    • アノテーション
    • 個人情報と機微情報
  • データ利用上の注意
    • データセットの社会的影響
    • バイアスに関する議論
    • その他の既知の制限
  • 追加情報
    • データセットのキュレーター
    • ライセンス情報
    • 引用情報
    • 貢献

データセットの説明

データセットの概要

Cosmos QA は、常識に基づく読解を要する 35.6K 件の問題からなる大規模データセットであり、選択式の質問の形式で構成されている。人々の日常の語りの多様な集まりについて行間を読むことに焦点を当て、文脈の正確なテキストの範囲を超える推論を要する出来事の、ありうる原因や結果についての質問を投げかける。

対応するタスクとリーダーボード

More Information Needed

言語

More Information Needed

データセットの構造

データのインスタンス

default

  • ダウンロードしたデータセットファイルのサイズ: 24.40 MB
  • 生成されたデータセットのサイズ: 24.51 MB
  • 使用するディスクの総量: 48.91 MB

'validation' の例は次のとおり。

This example was too long and was cropped:

{
    "answer0": "If he gets married in the church he wo nt have to get a divorce .",
    "answer1": "He wants to get married to a different person .",
    "answer2": "He wants to know if he does nt like this girl can he divorce her ?",
    "answer3": "None of the above choices .",
    "context": "\"Do i need to go for a legal divorce ? I wanted to marry a woman but she is not in the same religion , so i am not concern of th...",
    "id": "3BFF0DJK8XA7YNK4QYIGCOG1A95STE##3180JW2OT5AF02OISBX66RFOCTG5J7##A2LTOS0AZ3B28A##Blog_56156##q1_a1##378G7J1SJNCDAAIN46FM2P7T6KZEW2",
    "label": 1,
    "question": "Why is this person asking about divorce ?"
}

データのフィールド

データのフィールドは、すべての分割で共通である。

default

  • id: string 型のフィールド。
  • context: string 型のフィールド。
  • question: string 型のフィールド。
  • answer0: string 型のフィールド。
  • answer1: string 型のフィールド。
  • answer2: string 型のフィールド。
  • answer3: string 型のフィールド。
  • label: int32 型のフィールド。

データの分割

name train validation test
default 25262 2985 6963

データセットの作成

収集の根拠

More Information Needed

元データ

初期のデータ収集と正規化

More Information Needed

元の言語の作成者は誰か?

More Information Needed

アノテーション

アノテーションの過程

More Information Needed

アノテーターは誰か?

More Information Needed

個人情報と機微情報

More Information Needed

データ利用上の注意

データセットの社会的影響

More Information Needed

バイアスに関する議論

More Information Needed

その他の既知の制限

More Information Needed

追加情報

データセットのキュレーター

More Information Needed

ライセンス情報

Yejin Choi がメールで報告したところによると、このデータセットは CC BY 4.0 ライセンスのもとで提供されている。

引用情報

@inproceedings{huang-etal-2019-cosmos,
    title = "Cosmos {QA}: Machine Reading Comprehension with Contextual Commonsense Reasoning",
    author = "Huang, Lifu  and
      Le Bras, Ronan  and
      Bhagavatula, Chandra  and
      Choi, Yejin",
    booktitle = "Proceedings of the 2019 Conference on Empirical Methods in Natural Language Processing and the 9th International Joint Conference on Natural Language Processing (EMNLP-IJCNLP)",
    month = nov,
    year = "2019",
    address = "Hong Kong, China",
    publisher = "Association for Computational Linguistics",
    url = "https://www.aclweb.org/anthology/D19-1243",
    doi = "10.18653/v1/D19-1243",
    pages = "2391--2401",
}

貢献

このデータセットを追加してくれた @patrickvonplaten、@lewtun、@albertvillanova、@thomwolf に感謝する。

原文(英語)

Dataset Card for "cosmos_qa"

Dataset Summary

Cosmos QA is a large-scale dataset of 35.6K problems that require commonsense-based reading comprehension, formulated as multiple-choice questions. It focuses on reading between the lines over a diverse collection of people's everyday narratives, asking questions concerning on the likely causes or effects of events that require reasoning beyond the exact text spans in the context

Supported Tasks and Leaderboards

More Information Needed

Languages

More Information Needed

Dataset Structure

Data Instances

default

  • Size of downloaded dataset files: 24.40 MB
  • Size of the generated dataset: 24.51 MB
  • Total amount of disk used: 48.91 MB

An example of 'validation' looks as follows.

This example was too long and was cropped:

{
    "answer0": "If he gets married in the church he wo nt have to get a divorce .",
    "answer1": "He wants to get married to a different person .",
    "answer2": "He wants to know if he does nt like this girl can he divorce her ?",
    "answer3": "None of the above choices .",
    "context": "\"Do i need to go for a legal divorce ? I wanted to marry a woman but she is not in the same religion , so i am not concern of th...",
    "id": "3BFF0DJK8XA7YNK4QYIGCOG1A95STE##3180JW2OT5AF02OISBX66RFOCTG5J7##A2LTOS0AZ3B28A##Blog_56156##q1_a1##378G7J1SJNCDAAIN46FM2P7T6KZEW2",
    "label": 1,
    "question": "Why is this person asking about divorce ?"
}

Data Fields

The data fields are the same among all splits.

default

  • id: a string feature.
  • context: a string feature.
  • question: a string feature.
  • answer0: a string feature.
  • answer1: a string feature.
  • answer2: a string feature.
  • answer3: a string feature.
  • label: a int32 feature.

Data Splits

name train validation test
default 25262 2985 6963

Dataset Creation

Curation Rationale

More Information Needed

Source Data

Initial Data Collection and Normalization

More Information Needed

Who are the source language producers?

More Information Needed

Annotations

Annotation process

More Information Needed

Who are the annotators?

More Information Needed

Personal and Sensitive Information

More Information Needed

Considerations for Using the Data

Social Impact of Dataset

More Information Needed

Discussion of Biases

More Information Needed

Other Known Limitations

More Information Needed

Additional Information

Dataset Curators

More Information Needed

Licensing Information

As reported via email by Yejin Choi, the dataset is licensed under CC BY 4.0 license.

Citation Information

@inproceedings{huang-etal-2019-cosmos,
    title = "Cosmos {QA}: Machine Reading Comprehension with Contextual Commonsense Reasoning",
    author = "Huang, Lifu  and
      Le Bras, Ronan  and
      Bhagavatula, Chandra  and
      Choi, Yejin",
    booktitle = "Proceedings of the 2019 Conference on Empirical Methods in Natural Language Processing and the 9th International Joint Conference on Natural Language Processing (EMNLP-IJCNLP)",
    month = nov,
    year = "2019",
    address = "Hong Kong, China",
    publisher = "Association for Computational Linguistics",
    url = "https://www.aclweb.org/anthology/D19-1243",
    doi = "10.18653/v1/D19-1243",
    pages = "2391--2401",
}

Contributions

Thanks to @patrickvonplaten, @lewtun, @albertvillanova, @thomwolf for adding this dataset.

Downloads last month
87

Paper for HYUKI5/allenai__cosmos_qa