Dataset Viewer

The dataset viewer is not available because its heuristics could not detect any supported data files. You can try uploading some data files, or configuring the data files location manually.

iamollas/ethos(複製)

データの内容

SNS 上のコメントのヘイトスピーチを検出するための英語のデータ。binary 構成は、コメントにヘイトスピーチがあるかないかを label で示し、multilabel 構成は、ヘイトを含むコメントに暴力の扇動の有無や対象の種類などの 8 つのラベルを付けている。1 行が 1 件のコメントで、本文を text に入れている。

データの概要

項目 値
行数 1,431(2 構成・2 分割の合計)
列数 2〜9(構成による)
容量 16.48 KB(ファイル 3 本)
ファイルの形式 py 1
言語 en
公開 public

構成と分割

構成(config) 分割(split)ごとの行数 列数
binary train 998 2
multilabel train 433 9

列(構成 binary。構成ごとに列が違う)

列 型
text string
label struct{class_label: struct{names: struct{…}}}

行数と列は元のカードの YAML(dataset_info)の記載。データセットビューアでは読めなかった。全データセットの一覧は HYUKI5/dataset-catalog にある。

複製について

iamollas/ethos をリビジョン b239d9c437c4d74e643b973d5e57782549aaab81 の時点でそのまま複製したもの。中身は変えていない。判断モデル Laya(convaiinnovations/laya)の微調整に使う候補として、調査メモ(Laya 学習用データセット調査)に載せたデータを集めている。

出典

論文

アノテーションの方法

キュレーションの理由

本データセットは、ヘイトスピーチを含みやすい動画やサブレディットから、YouTube の動画のコメントと reddit のコメントを集めて作られた。

初期のデータ収集と正規化

使用した初期データは hatebusters プラットフォームのものである: 使用した元データ。ただし、これらは本データセットには含まれていない。

元の言語の作成者は誰か?

言語の作成者は reddit と YouTube のユーザーである。詳細は次の論文を参照: ETHOS: an Online Hate Speech Detection Dataset

アノテーションの過程

アノテーションの過程は、この論文の第 3 節で詳しく説明されている: ETHOS: an Online Hate Speech Detection Dataset

データセットの作成者

本データセットは Intelligent Systems Lab によって最初に作られた。

微調整に使うときの注意

  • 調査メモの台帳での区分: B(継承条件・gated・モデル由来の条件・上流の規約などが付く)。区分は記載の文言で機械的に付けたもので、法的な判定ではない。学習に入れる前に元のカードとライセンスの原文で確かめる。
  • Laya の入力は 2,048 token まで(ModernBERT-large / mmBERT)。長い本文は先頭から黙って切られるので、切れる行は事前に除くか、要約・切り出しをしてから入れる。
  • 分割は記事・文書単位で行い、同じ本文から作った別の問いを学習側と較正側に分けない。温度と閾値は学習に使っていない分割で別々に当てる。

調査メモの記述

メモ 節 ライセンス(記載) 確認 注記
safety_judge_scoring.md 1. 安全性・モデレーション・ガードレール系データセット (L32) agpl-3.0 確認済 Q3 参照(食い違い・要確認) / 原文注記: - iamollas/ethos (ETHOS, arXiv 2006.08328) — license agpl-3.0(強い条件、要注意)、998 行(binary config)。マルチラベル版は割合ラベルを持つ(
jev_sources_tasksource_bekko.csv CSV(tasksource-jev-typed-decisions) agpl-3.0 / license_use=commercial 確認済 license_use=commercial / [Jev 元データ source] source_annotation_converted(deterministic recast; no model r

元のカード(日本語訳)

以下は元のデータセットのカードの本文を日本語に訳したもの(機械翻訳)。訳に疑問があるときは、末尾の原文を確かめる。


Ethos のデータセットカード

目次

  • データセットの説明
    • データセットの概要
    • 対応タスクとリーダーボード
    • 言語
  • データセットの構造
    • データインスタンス
    • データのフィールド
    • データ分割
  • データセットの作成
    • キュレーションの理由
    • 元データ
    • アノテーション
    • 個人情報と機微な情報
  • データを使う際の留意点
    • データセットの社会的影響
    • バイアスについての議論
    • その他の既知の制限
  • 追加情報
    • データセットの作成者
    • ライセンス情報
    • 引用情報
    • 貢献者

データセットの説明

データセットの概要

ETHOS: onlinE haTe speecH detectiOn dataSet(オンラインのヘイトスピーチ検出データセット)。本リポジトリには、SNS プラットフォーム上のヘイトスピーチ検出のためのデータセット(Ethos)が含まれる。このデータセットには 2 つのバリエーションがある:

  • Ethos_Dataset_Binary: データセットには 998 件のコメントが含まれ、それぞれにヘイトスピーチがあるかないかを示すラベルが付いている。そのうち 565 件はヘイトスピーチを含まず、残りの 433 件は含む。
  • Ethos_Dataset_Multi_Label: ヘイトスピーチを含む 433 件のコメントに対して 8 つのラベルを含む。ラベルは、violence(暴力を扇動するか(1)否か(0))、directed_vs_general(特定の個人に向けられているか(1)、集団に向けられているか(0))、そして、ヘイトスピーチの分類を示す 6 つのラベル(gender、race、national_origin、disability、religion、sexual_orientation)である。

Ethos /ˈiːθɒs/ ギリシャ語で「性格」を意味する語である。ある共同体、国家、あるいはイデオロギーを特徴づける指針となる信条や理想を指す。ギリシャ人はこの語を、音楽が感情、行動、さらには道徳に影響を及ぼす力を指すためにも使った。

対応タスクとリーダーボード

[More Information Needed]

  • text-classification-other-Hate Speech Detection、sentiment-classification、multi-label-classification: 本データセットは、ヘイトスピーチ検出のモデルを train するために使える。さらに、マルチラベル分類アルゴリズムのベンチマーク用データセットとしても使える。

言語

データセットのテキストは英語である。

データセットの構造

データインスタンス

バイナリ版の典型的なデータ点は、コメントの本文を含む text と、コメントにヘイトスピーチが含まれるか(1 = ヘイトスピーチ、0 = 非ヘイトスピーチ)を示す label からなる。マルチラベル版では、さらに次のラベルが加わる。暴力を扇動するか(1)否か(0)を示す violence、特定の個人に向けられているか(1)集団に向けられているか(0)を示す directed_vs_general、そしてヘイトスピーチの分類を示す gender、race、national_origin、disability、religion、sexual_orientation の 6 つのラベル。

バイナリ版からの例。攻撃的ではあるが、ヘイトスピーチの内容は含まない:

{'text': 'What the fuck stupid people !!!',
 'label': '0'
}

マルチラベル版からの例。女性に向けられたヘイトスピーチ(gender)を含む:

{'text': 'You should know women's sports are a joke',
 `violence`: 0,
 `directed_vs_generalized`: 0,
 `gender`: 1,
 `race`: 0,
 `national_origin`: 0,
 `disability`: 0,
 `religion`: 0,
 `sexual_orientation`: 0
}

データのフィールド

Ethos Binary:

  • text: コメントの本文を収めた string 型のフィールド。
  • label: 分類ラベル。取りうる値は no_hate_speech、hate_speech を含む。

Ethis Multilabel:

  • text: コメントの本文を収めた string 型のフィールド。
  • violence: 分類ラベル。取りうる値は not_violent、violent を含む。
  • directed_vs_generalized: 分類ラベル。取りうる値は generalized、directed を含む。
  • gender: 分類ラベル。取りうる値は false、true を含む。
  • race: 分類ラベル。取りうる値は false、true を含む。
  • national_origin: 分類ラベル。取りうる値は false、true を含む。
  • disability: 分類ラベル。取りうる値は false、true を含む。
  • religion: 分類ラベル。取りうる値は false、true を含む。
  • sexual_orientation: 分類ラベル。取りうる値は false、true を含む。

データ分割

データはバイナリ版とマルチラベル版に分かれている。マルチラベル版はバイナリ版の部分集合である。

Instances Labels
binary 998 1
multilabel 433 8

データセットの作成

キュレーションの理由

本データセットは、ヘイトスピーチを含みやすい動画やサブレディットから、YouTube の動画のコメントと reddit のコメントを集めて作られた。

元データ

初期のデータ収集と正規化

使用した初期データは hatebusters プラットフォームのものである: 使用した元データ。ただし、これらは本データセットには含まれていない。

元の言語の作成者は誰か?

言語の作成者は reddit と YouTube のユーザーである。詳細は次の論文を参照: ETHOS: an Online Hate Speech Detection Dataset

アノテーション

アノテーションの過程

アノテーションの過程は、この論文の第 3 節で詳しく説明されている: ETHOS: an Online Hate Speech Detection Dataset

アノテーターは誰か?

当初は Ioannis Mollas がアノテーションし、Figure8 プラットフォーム(APEN)で検証された。

個人情報と機微な情報

本データセットには、個人情報や機微な情報は含まれていない。

データを使う際の留意点

データセットの社会的影響

本データセットは、自動化されたヘイトスピーチ検出ツールの進化に役立つ。こうしたツールは、社会問題の防止に大きく寄与しうる。

バイアスについての議論

本データセットは、そのクラスとラベルに対して偏りがないよう努めている。

その他の既知の制限

本データセットは比較的小規模であり、より大規模なデータセットと組み合わせて使うべきである。

追加情報

データセットの作成者

本データセットは Intelligent Systems Lab によって最初に作られた。

ライセンス情報

データセットのライセンスは GNU GPLv3 である。

引用情報

@misc{mollas2020ethos,
      title={ETHOS: an Online Hate Speech Detection Dataset}, 
      author={Ioannis Mollas and Zoe Chrysopoulou and Stamatis Karlos and Grigorios Tsoumakas},
      year={2020},
      eprint={2006.08328},
      archivePrefix={arXiv},
      primaryClass={cs.CL}
}

貢献者

本データセットの追加に協力してくれた @iamollas に感謝する。

原文(英語)

Dataset Card for Ethos

Dataset Summary

ETHOS: onlinE haTe speecH detectiOn dataSet. This repository contains a dataset for hate speech detection on social media platforms, called Ethos. There are two variations of the dataset:

  • Ethos_Dataset_Binary: contains 998 comments in the dataset alongside with a label about hate speech presence or absence. 565 of them do not contain hate speech, while the rest of them, 433, contain.
  • Ethos_Dataset_Multi_Label which contains 8 labels for the 433 comments with hate speech content. These labels are violence (if it incites (1) or not (0) violence), directed_vs_general (if it is directed to a person (1) or a group (0)), and 6 labels about the category of hate speech like, gender, race, national_origin, disability, religion and sexual_orientation.

Ethos /ˈiːθɒs/ is a Greek word meaning “character” that is used to describe the guiding beliefs or ideals that characterize a community, nation, or ideology. The Greeks also used this word to refer to the power of music to influence emotions, behaviors, and even morals.

Supported Tasks and Leaderboards

[More Information Needed]

  • text-classification-other-Hate Speech Detection, sentiment-classification,multi-label-classification: The dataset can be used to train a model for hate speech detection. Moreover, it can be used as a benchmark dataset for multi label classification algorithms.

Languages

The text in the dataset is in English.

Dataset Structure

Data Instances

A typical data point in the binary version comprises a comment, with a text containing the text and a label describing if a comment contains hate speech content (1 - hate-speech) or not (0 - non-hate-speech). In the multilabel version more labels like violence (if it incites (1) or not (0) violence), directed_vs_general (if it is directed to a person (1) or a group (0)), and 6 labels about the category of hate speech like, gender, race, national_origin, disability, religion and sexual_orientation are appearing.

An example from the binary version, which is offensive, but it does not contain hate speech content:

{'text': 'What the fuck stupid people !!!',
 'label': '0'
}

An example from the multi-label version, which contains hate speech content towards women (gender):

{'text': 'You should know women's sports are a joke',
 `violence`: 0,
 `directed_vs_generalized`: 0,
 `gender`: 1,
 `race`: 0,
 `national_origin`: 0,
 `disability`: 0,
 `religion`: 0,
 `sexual_orientation`: 0
}

Data Fields

Ethos Binary:

  • text: a string feature containing the text of the comment.
  • label: a classification label, with possible values including no_hate_speech, hate_speech.

Ethis Multilabel:

  • text: a string feature containing the text of the comment.
  • violence: a classification label, with possible values including not_violent, violent.
  • directed_vs_generalized: a classification label, with possible values including generalized, directed.
  • gender: a classification label, with possible values including false, true.
  • race: a classification label, with possible values including false, true.
  • national_origin: a classification label, with possible values including false, true.
  • disability: a classification label, with possible values including false, true.
  • religion: a classification label, with possible values including false, true.
  • sexual_orientation: a classification label, with possible values including false, true.

Data Splits

The data is split into binary and multilabel. Multilabel is a subset of the binary version.

Instances Labels
binary 998 1
multilabel 433 8

Dataset Creation

Curation Rationale

The dataset was build by gathering online comments in Youtube videos and reddit comments, from videos and subreddits which may attract hate speech content.

Source Data

Initial Data Collection and Normalization

The initial data we used are from the hatebusters platform: Original data used, but they were not included in this dataset

Who are the source language producers?

The language producers are users of reddit and Youtube. More informations can be found in this paper: ETHOS: an Online Hate Speech Detection Dataset

Annotations

Annotation process

The annotation process is detailed in the third section of this paper: ETHOS: an Online Hate Speech Detection Dataset

Who are the annotators?

Originally anotated by Ioannis Mollas and validated through the Figure8 platform (APEN).

Personal and Sensitive Information

No personal and sensitive information included in the dataset.

Considerations for Using the Data

Social Impact of Dataset

This dataset will help on the evolution of the automated hate speech detection tools. Those tools have great impact on preventing social issues.

Discussion of Biases

This dataset tries to be unbiased towards its classes and labels.

Other Known Limitations

The dataset is relatively small and should be used combined with larger datasets.

Additional Information

Dataset Curators

The dataset was initially created by Intelligent Systems Lab.

Licensing Information

The licensing status of the datasets is GNU GPLv3.

Citation Information

@misc{mollas2020ethos,
      title={ETHOS: an Online Hate Speech Detection Dataset}, 
      author={Ioannis Mollas and Zoe Chrysopoulou and Stamatis Karlos and Grigorios Tsoumakas},
      year={2020},
      eprint={2006.08328},
      archivePrefix={arXiv},
      primaryClass={cs.CL}
}

Contributions

Thanks to @iamollas for adding this dataset.

Downloads last month
87

Paper for HYUKI5/iamollas__ethos