Datasets:
The dataset viewer is not available because its heuristics could not detect any supported data files. You can try uploading some data files, or configuring the data files location manually.
iamollas/ethos(複製)
データの内容
SNS 上のコメントのヘイトスピーチを検出するための英語のデータ。binary 構成は、コメントにヘイトスピーチがあるかないかを label で示し、multilabel 構成は、ヘイトを含むコメントに暴力の扇動の有無や対象の種類などの 8 つのラベルを付けている。1 行が 1 件のコメントで、本文を text に入れている。
データの概要
| 項目 | 値 |
|---|---|
| 行数 | 1,431(2 構成・2 分割の合計) |
| 列数 | 2〜9(構成による) |
| 容量 | 16.48 KB(ファイル 3 本) |
| ファイルの形式 | py 1 |
| 言語 | en |
| 公開 | public |
構成と分割
| 構成(config) | 分割(split)ごとの行数 | 列数 |
|---|---|---|
binary |
train 998 |
2 |
multilabel |
train 433 |
9 |
列(構成 binary。構成ごとに列が違う)
| 列 | 型 |
|---|---|
text |
string |
label |
struct{class_label: struct{names: struct{…}}} |
行数と列は元のカードの YAML(dataset_info)の記載。データセットビューアでは読めなかった。全データセットの一覧は HYUKI5/dataset-catalog にある。
複製について
iamollas/ethos をリビジョン b239d9c437c4d74e643b973d5e57782549aaab81 の時点でそのまま複製したもの。中身は変えていない。判断モデル Laya(convaiinnovations/laya)の微調整に使う候補として、調査メモ(Laya 学習用データセット調査)に載せたデータを集めている。
出典
- 元のデータセット: https://huggingface.co/datasets/iamollas/ethos
- 複製したリビジョン:
b239d9c437c4d74e643b973d5e57782549aaab81(2024-01-18 11:03:20+00:00) - 元のライセンス表記:
['agpl-3.0']
論文
アノテーションの方法
キュレーションの理由
本データセットは、ヘイトスピーチを含みやすい動画やサブレディットから、YouTube の動画のコメントと reddit のコメントを集めて作られた。
初期のデータ収集と正規化
使用した初期データは hatebusters プラットフォームのものである: 使用した元データ。ただし、これらは本データセットには含まれていない。
元の言語の作成者は誰か?
言語の作成者は reddit と YouTube のユーザーである。詳細は次の論文を参照: ETHOS: an Online Hate Speech Detection Dataset
アノテーションの過程
アノテーションの過程は、この論文の第 3 節で詳しく説明されている: ETHOS: an Online Hate Speech Detection Dataset
データセットの作成者
本データセットは Intelligent Systems Lab によって最初に作られた。
微調整に使うときの注意
- 調査メモの台帳での区分: B(継承条件・gated・モデル由来の条件・上流の規約などが付く)。区分は記載の文言で機械的に付けたもので、法的な判定ではない。学習に入れる前に元のカードとライセンスの原文で確かめる。
- Laya の入力は 2,048 token まで(ModernBERT-large / mmBERT)。長い本文は先頭から黙って切られるので、切れる行は事前に除くか、要約・切り出しをしてから入れる。
- 分割は記事・文書単位で行い、同じ本文から作った別の問いを学習側と較正側に分けない。温度と閾値は学習に使っていない分割で別々に当てる。
調査メモの記述
| メモ | 節 | ライセンス(記載) | 確認 | 注記 |
|---|---|---|---|---|
safety_judge_scoring.md |
1. 安全性・モデレーション・ガードレール系データセット (L32) | agpl-3.0 | 確認済 | Q3 参照(食い違い・要確認) / 原文注記: - iamollas/ethos (ETHOS, arXiv 2006.08328) — license agpl-3.0(強い条件、要注意)、998 行(binary config)。マルチラベル版は割合ラベルを持つ( |
jev_sources_tasksource_bekko.csv |
CSV(tasksource-jev-typed-decisions) | agpl-3.0 / license_use=commercial | 確認済 | license_use=commercial / [Jev 元データ source] source_annotation_converted(deterministic recast; no model r |
元のカード(日本語訳)
以下は元のデータセットのカードの本文を日本語に訳したもの(機械翻訳)。訳に疑問があるときは、末尾の原文を確かめる。
Ethos のデータセットカード
目次
- データセットの説明
- データセットの概要
- 対応タスクとリーダーボード
- 言語
- データセットの構造
- データインスタンス
- データのフィールド
- データ分割
- データセットの作成
- キュレーションの理由
- 元データ
- アノテーション
- 個人情報と機微な情報
- データを使う際の留意点
- データセットの社会的影響
- バイアスについての議論
- その他の既知の制限
- 追加情報
- データセットの作成者
- ライセンス情報
- 引用情報
- 貢献者
データセットの説明
- ホームページ: ETHOS Hate Speech Dataset
- リポジトリ:ETHOS Hate Speech Dataset
- 論文:ETHOS: an Online Hate Speech Detection Dataset
データセットの概要
ETHOS: onlinE haTe speecH detectiOn dataSet(オンラインのヘイトスピーチ検出データセット)。本リポジトリには、SNS プラットフォーム上のヘイトスピーチ検出のためのデータセット(Ethos)が含まれる。このデータセットには 2 つのバリエーションがある:
- Ethos_Dataset_Binary: データセットには 998 件のコメントが含まれ、それぞれにヘイトスピーチがあるかないかを示すラベルが付いている。そのうち 565 件はヘイトスピーチを含まず、残りの 433 件は含む。
- Ethos_Dataset_Multi_Label: ヘイトスピーチを含む 433 件のコメントに対して 8 つのラベルを含む。ラベルは、violence(暴力を扇動するか(1)否か(0))、directed_vs_general(特定の個人に向けられているか(1)、集団に向けられているか(0))、そして、ヘイトスピーチの分類を示す 6 つのラベル(gender、race、national_origin、disability、religion、sexual_orientation)である。
Ethos /ˈiːθɒs/ ギリシャ語で「性格」を意味する語である。ある共同体、国家、あるいはイデオロギーを特徴づける指針となる信条や理想を指す。ギリシャ人はこの語を、音楽が感情、行動、さらには道徳に影響を及ぼす力を指すためにも使った。
対応タスクとリーダーボード
[More Information Needed]
text-classification-other-Hate Speech Detection、sentiment-classification、multi-label-classification: 本データセットは、ヘイトスピーチ検出のモデルを train するために使える。さらに、マルチラベル分類アルゴリズムのベンチマーク用データセットとしても使える。
言語
データセットのテキストは英語である。
データセットの構造
データインスタンス
バイナリ版の典型的なデータ点は、コメントの本文を含む text と、コメントにヘイトスピーチが含まれるか(1 = ヘイトスピーチ、0 = 非ヘイトスピーチ)を示す label からなる。マルチラベル版では、さらに次のラベルが加わる。暴力を扇動するか(1)否か(0)を示す violence、特定の個人に向けられているか(1)集団に向けられているか(0)を示す directed_vs_general、そしてヘイトスピーチの分類を示す gender、race、national_origin、disability、religion、sexual_orientation の 6 つのラベル。
バイナリ版からの例。攻撃的ではあるが、ヘイトスピーチの内容は含まない:
{'text': 'What the fuck stupid people !!!',
'label': '0'
}
マルチラベル版からの例。女性に向けられたヘイトスピーチ(gender)を含む:
{'text': 'You should know women's sports are a joke',
`violence`: 0,
`directed_vs_generalized`: 0,
`gender`: 1,
`race`: 0,
`national_origin`: 0,
`disability`: 0,
`religion`: 0,
`sexual_orientation`: 0
}
データのフィールド
Ethos Binary:
text: コメントの本文を収めたstring型のフィールド。label: 分類ラベル。取りうる値はno_hate_speech、hate_speechを含む。
Ethis Multilabel:
text: コメントの本文を収めたstring型のフィールド。violence: 分類ラベル。取りうる値はnot_violent、violentを含む。directed_vs_generalized: 分類ラベル。取りうる値はgeneralized、directedを含む。gender: 分類ラベル。取りうる値はfalse、trueを含む。race: 分類ラベル。取りうる値はfalse、trueを含む。national_origin: 分類ラベル。取りうる値はfalse、trueを含む。disability: 分類ラベル。取りうる値はfalse、trueを含む。religion: 分類ラベル。取りうる値はfalse、trueを含む。sexual_orientation: 分類ラベル。取りうる値はfalse、trueを含む。
データ分割
データはバイナリ版とマルチラベル版に分かれている。マルチラベル版はバイナリ版の部分集合である。
| Instances | Labels | |
|---|---|---|
| binary | 998 | 1 |
| multilabel | 433 | 8 |
データセットの作成
キュレーションの理由
本データセットは、ヘイトスピーチを含みやすい動画やサブレディットから、YouTube の動画のコメントと reddit のコメントを集めて作られた。
元データ
初期のデータ収集と正規化
使用した初期データは hatebusters プラットフォームのものである: 使用した元データ。ただし、これらは本データセットには含まれていない。
元の言語の作成者は誰か?
言語の作成者は reddit と YouTube のユーザーである。詳細は次の論文を参照: ETHOS: an Online Hate Speech Detection Dataset
アノテーション
アノテーションの過程
アノテーションの過程は、この論文の第 3 節で詳しく説明されている: ETHOS: an Online Hate Speech Detection Dataset
アノテーターは誰か?
当初は Ioannis Mollas がアノテーションし、Figure8 プラットフォーム(APEN)で検証された。
個人情報と機微な情報
本データセットには、個人情報や機微な情報は含まれていない。
データを使う際の留意点
データセットの社会的影響
本データセットは、自動化されたヘイトスピーチ検出ツールの進化に役立つ。こうしたツールは、社会問題の防止に大きく寄与しうる。
バイアスについての議論
本データセットは、そのクラスとラベルに対して偏りがないよう努めている。
その他の既知の制限
本データセットは比較的小規模であり、より大規模なデータセットと組み合わせて使うべきである。
追加情報
データセットの作成者
本データセットは Intelligent Systems Lab によって最初に作られた。
ライセンス情報
データセットのライセンスは GNU GPLv3 である。
引用情報
@misc{mollas2020ethos,
title={ETHOS: an Online Hate Speech Detection Dataset},
author={Ioannis Mollas and Zoe Chrysopoulou and Stamatis Karlos and Grigorios Tsoumakas},
year={2020},
eprint={2006.08328},
archivePrefix={arXiv},
primaryClass={cs.CL}
}
貢献者
本データセットの追加に協力してくれた @iamollas に感謝する。
原文(英語)
Dataset Card for Ethos
Dataset Summary
ETHOS: onlinE haTe speecH detectiOn dataSet. This repository contains a dataset for hate speech detection on social media platforms, called Ethos. There are two variations of the dataset:
- Ethos_Dataset_Binary: contains 998 comments in the dataset alongside with a label about hate speech presence or absence. 565 of them do not contain hate speech, while the rest of them, 433, contain.
- Ethos_Dataset_Multi_Label which contains 8 labels for the 433 comments with hate speech content. These labels are violence (if it incites (1) or not (0) violence), directed_vs_general (if it is directed to a person (1) or a group (0)), and 6 labels about the category of hate speech like, gender, race, national_origin, disability, religion and sexual_orientation.
Ethos /ˈiːθɒs/ is a Greek word meaning “character” that is used to describe the guiding beliefs or ideals that characterize a community, nation, or ideology. The Greeks also used this word to refer to the power of music to influence emotions, behaviors, and even morals.
Supported Tasks and Leaderboards
[More Information Needed]
text-classification-other-Hate Speech Detection,sentiment-classification,multi-label-classification: The dataset can be used to train a model for hate speech detection. Moreover, it can be used as a benchmark dataset for multi label classification algorithms.
Languages
The text in the dataset is in English.
Dataset Structure
Data Instances
A typical data point in the binary version comprises a comment, with a text containing the text and a label describing if a comment contains hate speech content (1 - hate-speech) or not (0 - non-hate-speech). In the multilabel version more labels like violence (if it incites (1) or not (0) violence), directed_vs_general (if it is directed to a person (1) or a group (0)), and 6 labels about the category of hate speech like, gender, race, national_origin, disability, religion and sexual_orientation are appearing.
An example from the binary version, which is offensive, but it does not contain hate speech content:
{'text': 'What the fuck stupid people !!!',
'label': '0'
}
An example from the multi-label version, which contains hate speech content towards women (gender):
{'text': 'You should know women's sports are a joke',
`violence`: 0,
`directed_vs_generalized`: 0,
`gender`: 1,
`race`: 0,
`national_origin`: 0,
`disability`: 0,
`religion`: 0,
`sexual_orientation`: 0
}
Data Fields
Ethos Binary:
text: astringfeature containing the text of the comment.label: a classification label, with possible values includingno_hate_speech,hate_speech.
Ethis Multilabel:
text: astringfeature containing the text of the comment.violence: a classification label, with possible values includingnot_violent,violent.directed_vs_generalized: a classification label, with possible values includinggeneralized,directed.gender: a classification label, with possible values includingfalse,true.race: a classification label, with possible values includingfalse,true.national_origin: a classification label, with possible values includingfalse,true.disability: a classification label, with possible values includingfalse,true.religion: a classification label, with possible values includingfalse,true.sexual_orientation: a classification label, with possible values includingfalse,true.
Data Splits
The data is split into binary and multilabel. Multilabel is a subset of the binary version.
| Instances | Labels | |
|---|---|---|
| binary | 998 | 1 |
| multilabel | 433 | 8 |
Dataset Creation
Curation Rationale
The dataset was build by gathering online comments in Youtube videos and reddit comments, from videos and subreddits which may attract hate speech content.
Source Data
Initial Data Collection and Normalization
The initial data we used are from the hatebusters platform: Original data used, but they were not included in this dataset
Who are the source language producers?
The language producers are users of reddit and Youtube. More informations can be found in this paper: ETHOS: an Online Hate Speech Detection Dataset
Annotations
Annotation process
The annotation process is detailed in the third section of this paper: ETHOS: an Online Hate Speech Detection Dataset
Who are the annotators?
Originally anotated by Ioannis Mollas and validated through the Figure8 platform (APEN).
Personal and Sensitive Information
No personal and sensitive information included in the dataset.
Considerations for Using the Data
Social Impact of Dataset
This dataset will help on the evolution of the automated hate speech detection tools. Those tools have great impact on preventing social issues.
Discussion of Biases
This dataset tries to be unbiased towards its classes and labels.
Other Known Limitations
The dataset is relatively small and should be used combined with larger datasets.
Additional Information
Dataset Curators
The dataset was initially created by Intelligent Systems Lab.
Licensing Information
The licensing status of the datasets is GNU GPLv3.
Citation Information
@misc{mollas2020ethos,
title={ETHOS: an Online Hate Speech Detection Dataset},
author={Ioannis Mollas and Zoe Chrysopoulou and Stamatis Karlos and Grigorios Tsoumakas},
year={2020},
eprint={2006.08328},
archivePrefix={arXiv},
primaryClass={cs.CL}
}
Contributions
Thanks to @iamollas for adding this dataset.
- Downloads last month
- 87