Datasets:
The dataset viewer is not available because its heuristics could not detect any supported data files. You can try uploading some data files, or configuring the data files location manually.
google-research-datasets/xsum_factuality(複製)
データの内容
XSum(BBC の記事を 1 文に要約したデータセット)の要約に、事実性と忠実性(ハルシネーション)を人手で注釈したデータ。1 行が 1 件の要約で、bbcid(記事の ID)、system(要約器の名前)、summary、is_factual が入っている。500 件の文書に対する 5 種類のシステムの要約を、クラウドソーシングで 3 件ずつ判定している。記事本文はこの版には含まれず、bbcid で別途取る必要があると調査メモにある。
データの概要
| 項目 | 値 |
|---|---|
| 行数 | 16,782(2 構成・2 分割の合計) |
| 列数 | 5〜7(構成による) |
| 容量 | 16.39 KB(ファイル 3 本) |
| ファイルの形式 | py 1 |
| 言語 | en |
| 公開 | public |
構成と分割
| 構成(config) | 分割(split)ごとの行数 | 列数 |
|---|---|---|
xsum_factuality |
train 5,597 |
5 |
xsum_faithfulness |
train 11,185 |
7 |
列(構成 xsum_factuality。構成ごとに列が違う)
| 列 | 型 |
|---|---|
bbcid |
int32 |
system |
string |
summary |
string |
is_factual |
struct{class_label: struct{names: struct{…}}} |
worker_id |
string |
行数と列は元のカードの YAML(dataset_info)の記載。データセットビューアでは読めなかった。全データセットの一覧は HYUKI5/dataset-catalog にある。
複製について
google-research-datasets/xsum_factuality をリビジョン 599e5d6a27b66410149bff3cea773fe3cb7f09c0 の時点でそのまま複製したもの。中身は変えていない。判断モデル Laya(convaiinnovations/laya)の微調整に使う候補として、調査メモ(Laya 学習用データセット調査)に載せたデータを集めている。
出典
- 元のデータセット: https://huggingface.co/datasets/google-research-datasets/xsum_factuality
- 複製したリビジョン:
599e5d6a27b66410149bff3cea773fe3cb7f09c0(2024-01-18 11:18:47+00:00) - 元のライセンス表記:
['cc-by-4.0']
論文
- https://www.aclweb.org/anthology/2020.acl-main.173.pdf
- https://www.aclweb.org/anthology/D18-1206.pdf
アノテーションの方法
忠実性の注釈データセット
典型的なデータ点は、ニュース記事(文書全体)を指す ID、要約、およびハルシネーションのスパン情報からなる。
XSum の忠実性データセットの例は次の通りである:
{
'bbcid': 34687720,
'hallucinated_span_end': 114,
'hallucinated_span_start': 1,
'hallucination_type': 1,
'summary': 'rory mcilroy will take a one-shot lead into the final round of the wgc-hsbc champions after carding a three-under',
'system': 'BERTS2S',
'worker_id': 'wid_0'
}
事実性の注釈データセット
典型的なデータ点は、ニュース記事(文書全体)を指す ID、要約、そしてその要約が事実に基づくかどうかからなる。
XSum の事実性データセットの例は次の通りである:
{
'bbcid': 29911712,
'is_factual': 0,
'summary': 'more than 50 pupils at a bristol academy have been sent home from school because of a lack of uniform.',
'system': 'BERTS2S',
'worker_id': 'wid_0'
}
忠実性の注釈データセット
評価者には、ニュース記事とシステムの要約が提示され、入力記事によって裏づけられていないスパンを特定して注釈を付ける作業が課される。ファイルには次の列が含まれる:
bbcid: XSum コーパスにおける文書 ID。system: ニューラル要約器の名前。summary: 「system」が生成した要約。hallucination_type: ハルシネーションの種類。intrinsic(0)または extrinsic(1)。hallucinated_span: 「summary」内のハルシネーションのスパン。hallucinated_span_start: ハルシネーションのスパンの開始位置のインデックス。hallucinated_span_end: ハルシネーションのスパンの終了位置のインデックス。worker_id: ワーカー ID('wid_0'、'wid_1'、'wid_2' のいずれか)
hallucination_type 列には、一部の項目で NULL の値があり、それらは -1 に置き換えられている。
事実性の注釈データセット
評価者には、ニュース記事とハルシネーションを含むシステムの要約が提示され、その要約が事実に基づくかどうかを評価する作業が課される。ファイルには次の列が含まれる:
- `bbcid1: XSum コーパスにおける文書 ID。
system: ニューラル要約器の名前。summary: 「system」が生成した要約。is_factual: はい(1)またはいいえ(0)worker_id: ワーカー ID('wid_0'、'wid_1'、'wid_2' のいずれか)
is_factual 列には、一部の項目で NULL の値があり、それらは -1 に置き換えられている。
微調整に使うときの注意
- 調査メモの台帳での区分: A(許諾型のライセンスだけで、疑義の注記が無い)。区分は記載の文言で機械的に付けたもので、法的な判定ではない。学習に入れる前に元のカードとライセンスの原文で確かめる。
- Laya の入力は 2,048 token まで(ModernBERT-large / mmBERT)。長い本文は先頭から黙って切られるので、切れる行は事前に除くか、要約・切り出しをしてから入れる。
- 分割は記事・文書単位で行い、同じ本文から作った別の問いを学習側と較正側に分けない。温度と閾値は学習に使っていない分割で別々に当てる。
調査メモの記述
| メモ | 節 | ライセンス(記載) | 確認 | 注記 |
|---|---|---|---|---|
news_events_similarity.md |
Q6. 要約は記事に支持されるか(忠実性・事実整合。noul) (L168) | cc-by-4.0 | 確認済 | 原文注記: BBC の記事本文は HF のカードに含まれず、bbcid から別途取る(列の構成から推測。本文の取得経路は未確認)。XSum は 1 文の要約で、極端に抽象的 |
元のカード(日本語訳)
以下は元のデータセットのカードの本文を日本語に訳したもの(機械翻訳)。訳に疑問があるときは、末尾の原文を確かめる。
XSum Hallucination Annotations のデータセットカード
目次
- データセットの説明
- データセットの概要
- 対応するタスクとリーダーボード
- 言語
- データセットの構造
- データインスタンス
- データフィールド
- データ分割
- データセットの作成
- キュレーションの根拠
- ソースデータ
- 注釈
- 個人情報と機微情報
- データ利用上の考慮事項
- データセットの社会的影響
- バイアスの検討
- その他の既知の限界
- 追加情報
- データセットのキュレーター
- ライセンス情報
- 引用情報
- 貢献
データセットの説明
- ホームページ: XSUM Hallucination Annotations Homepage
- リポジトリ: XSUM Hallucination Annotations Homepage
- 論文: ACL Web
- 連絡先: xsum-hallucinations-acl20@google.com
データセットの概要
ニューラルな抽象型要約モデルは、入力文書に忠実でない内容をハルシネーションとして生成しやすい。ROUGE のような一般的な指標は、この問題の深刻さを示せない。本データセットは、いくつかのニューラル抽象型要約システムに対する大規模な人手評価を含み、それらが生成するハルシネーションの種類をよりよく理解するためのものである。データセットは、XSum データセットの抽象型要約に対する忠実性(faithfulness)と事実性(factuality)の注釈からなる。500 × 5 の文書・システムの組それぞれについて、クラウドソーシングで 3 件の判定を集めている。抽象型要約のコミュニティにとって価値のある資源となる。
対応するタスクとリーダーボード
summarization: 本データセットは、与えられた文書を要約する要約タスクのモデルの学習に使える。このタスクの成否は通常、ROUGE Score の 高い/低い を達成できたかで測られる。
言語
データセットのテキストは英語であり、XSum データセット の抽象型要約である。対応する BCP-47 コードは en。
データセットの構造
データインスタンス
忠実性の注釈データセット
典型的なデータ点は、ニュース記事(文書全体)を指す ID、要約、およびハルシネーションのスパン情報からなる。
XSum の忠実性データセットの例は次の通りである:
{
'bbcid': 34687720,
'hallucinated_span_end': 114,
'hallucinated_span_start': 1,
'hallucination_type': 1,
'summary': 'rory mcilroy will take a one-shot lead into the final round of the wgc-hsbc champions after carding a three-under',
'system': 'BERTS2S',
'worker_id': 'wid_0'
}
事実性の注釈データセット
典型的なデータ点は、ニュース記事(文書全体)を指す ID、要約、そしてその要約が事実に基づくかどうかからなる。
XSum の事実性データセットの例は次の通りである:
{
'bbcid': 29911712,
'is_factual': 0,
'summary': 'more than 50 pupils at a bristol academy have been sent home from school because of a lack of uniform.',
'system': 'BERTS2S',
'worker_id': 'wid_0'
}
データフィールド
忠実性の注釈データセット
評価者には、ニュース記事とシステムの要約が提示され、入力記事によって裏づけられていないスパンを特定して注釈を付ける作業が課される。ファイルには次の列が含まれる:
bbcid: XSum コーパスにおける文書 ID。system: ニューラル要約器の名前。summary: 「system」が生成した要約。hallucination_type: ハルシネーションの種類。intrinsic(0)または extrinsic(1)。hallucinated_span: 「summary」内のハルシネーションのスパン。hallucinated_span_start: ハルシネーションのスパンの開始位置のインデックス。hallucinated_span_end: ハルシネーションのスパンの終了位置のインデックス。worker_id: ワーカー ID('wid_0'、'wid_1'、'wid_2' のいずれか)
hallucination_type 列には、一部の項目で NULL の値があり、それらは -1 に置き換えられている。
事実性の注釈データセット
評価者には、ニュース記事とハルシネーションを含むシステムの要約が提示され、その要約が事実に基づくかどうかを評価する作業が課される。ファイルには次の列が含まれる:
- `bbcid1: XSum コーパスにおける文書 ID。
system: ニューラル要約器の名前。summary: 「system」が生成した要約。is_factual: はい(1)またはいいえ(0)worker_id: ワーカー ID('wid_0'、'wid_1'、'wid_2' のいずれか)
is_factual 列には、一部の項目で NULL の値があり、それらは -1 に置き換えられている。
データ分割
忠実性の注釈データセットと事実性の注釈データセットのどちらにも、分割は一つしかない。
| train | |
|---|---|
| 忠実性の注釈 | 11185 |
| 事実性の注釈 | 5597 |
データセットの作成
キュレーションの根拠
[More Information Needed]
ソースデータ
初期のデータ収集と正規化
[More Information Needed]
ソース言語の生成者は誰か?
[More Information Needed]
注釈
注釈のプロセス
[More Information Needed]
注釈者は誰か?
[More Information Needed]
個人情報と機微情報
[More Information Needed]
データ利用上の考慮事項
データセットの社会的影響
[More Information Needed]
バイアスの検討
[More Information Needed]
その他の既知の限界
[More Information Needed]
追加情報
データセットのキュレーター
[More Information Needed]
ライセンス情報
Creative Commons Attribution 4.0 International
引用情報
@InProceedings{maynez_acl20,
author = "Joshua Maynez and Shashi Narayan and Bernd Bohnet and Ryan Thomas Mcdonald",
title = "On Faithfulness and Factuality in Abstractive Summarization",
booktitle = "Proceedings of the 58th Annual Meeting of the Association for Computational Linguistics",
year = "2020",
pages = "1906--1919",
address = "Online",
}
貢献
このデータセットを追加してくれた @vineeths96 に感謝する。
原文(英語)
Dataset Card for XSum Hallucination Annotations
Dataset Summary
Neural abstractive summarization models are highly prone to hallucinate content that is unfaithful to the input document. The popular metric such as ROUGE fails to show the severity of the problem. This dataset contains a large scale human evaluation of several neural abstractive summarization systems to better understand the types of hallucinations they produce. The dataset consists of faithfulness and factuality annotations of abstractive summaries for the XSum dataset. The dataset has crowdsourced 3 judgements for each of 500 x 5 document-system pairs. This will be a valuable resource to the abstractive summarization community.
Supported Tasks and Leaderboards
summarization: : The dataset can be used to train a model for Summarization,, which consists in summarizing a given document. Success on this task is typically measured by achieving a high/low ROUGE Score.
Languages
The text in the dataset is in English which are abstractive summaries for the XSum dataset. The associated BCP-47 code is en.
Dataset Structure
Data Instances
Faithfulness annotations dataset
A typical data point consists of an ID referring to the news article(complete document), summary, and the hallucination span information.
An example from the XSum Faithfulness dataset looks as follows:
{
'bbcid': 34687720,
'hallucinated_span_end': 114,
'hallucinated_span_start': 1,
'hallucination_type': 1,
'summary': 'rory mcilroy will take a one-shot lead into the final round of the wgc-hsbc champions after carding a three-under',
'system': 'BERTS2S',
'worker_id': 'wid_0'
}
Factuality annotations dataset
A typical data point consists of an ID referring to the news article(complete document), summary, and whether the summary is factual or not.
An example from the XSum Factuality dataset looks as follows:
{
'bbcid': 29911712,
'is_factual': 0,
'summary': 'more than 50 pupils at a bristol academy have been sent home from school because of a lack of uniform.',
'system': 'BERTS2S',
'worker_id': 'wid_0'
}
Data Fields
Faithfulness annotations dataset
Raters are shown the news article and the system summary, and are tasked with identifying and annotating the spans that aren't supported by the input article. The file contains the following columns:
bbcid: Document id in the XSum corpus.system: Name of neural summarizer.summary: Summary generated by ‘system’.hallucination_type: Type of hallucination: intrinsic (0) or extrinsic (1)hallucinated_span: Hallucinated span in the ‘summary’.hallucinated_span_start: Index of the start of the hallucinated span.hallucinated_span_end: Index of the end of the hallucinated span.worker_id: Worker ID (one of 'wid_0', 'wid_1', 'wid_2')
The hallucination_type column has NULL value for some entries which have been replaced iwth -1.
Factuality annotations dataset
Raters are shown the news article and the hallucinated system summary, and are tasked with assessing the summary whether it is factual or not. The file contains the following columns:
- `bbcid1: Document id in the XSum corpus.
system: Name of neural summarizer.summary: Summary generated by ‘system’.is_factual: Yes (1) or No (0)worker_id: Worker ID (one of 'wid_0', 'wid_1', 'wid_2')
The is_factual column has NULL value for some entries which have been replaced iwth -1.
Data Splits
There is only a single split for both the Faithfulness annotations dataset and Factuality annotations dataset.
| train | |
|---|---|
| Faithfulness annotations | 11185 |
| Factuality annotations | 5597 |
Dataset Creation
Curation Rationale
[More Information Needed]
Source Data
Initial Data Collection and Normalization
[More Information Needed]
Who are the source language producers?
[More Information Needed]
Annotations
Annotation process
[More Information Needed]
Who are the annotators?
[More Information Needed]
Personal and Sensitive Information
[More Information Needed]
Considerations for Using the Data
Social Impact of Dataset
[More Information Needed]
Discussion of Biases
[More Information Needed]
Other Known Limitations
[More Information Needed]
Additional Information
Dataset Curators
[More Information Needed]
Licensing Information
Creative Commons Attribution 4.0 International
Citation Information
@InProceedings{maynez_acl20,
author = "Joshua Maynez and Shashi Narayan and Bernd Bohnet and Ryan Thomas Mcdonald",
title = "On Faithfulness and Factuality in Abstractive Summarization",
booktitle = "Proceedings of the 58th Annual Meeting of the Association for Computational Linguistics",
year = "2020",
pages = "1906--1919",
address = "Online",
}
Contributions
Thanks to @vineeths96 for adding this dataset.
- Downloads last month
- 133