Dataset Viewer
Duplicate
The dataset viewer is not available for this split.
Cannot load the dataset split (in streaming mode) to extract the first rows.
Error code:   StreamingRowsError
Exception:    CastError
Message:      Couldn't cast
label: int64
input: string
is_short: bool
edited: bool
-- schema metadata --
pandas: '{"index_columns": [{"kind": "range", "name": null, "start": 0, "' + 716
to
{'label': Value('int64'), 'input': Value('string')}
because column names don't match
Traceback:    Traceback (most recent call last):
                File "/src/services/worker/src/worker/utils.py", line 149, in get_rows_or_raise
                  return get_rows(
                      dataset=dataset,
                  ...<4 lines>...
                      column_names=column_names,
                  )
                File "/src/libs/libcommon/src/libcommon/utils.py", line 272, in decorator
                  return func(*args, **kwargs)
                File "/src/services/worker/src/worker/utils.py", line 129, in get_rows
                  rows_plus_one = list(itertools.islice(safe_iter(ds, dataset=dataset), rows_max_number + 1))
                File "/src/services/worker/src/worker/utils.py", line 544, in safe_iter
                  yield from ds.decode(False) if ds.features else ds
                File "/usr/local/lib/python3.14/site-packages/datasets/iterable_dataset.py", line 3052, in __iter__
                  for key, example in ex_iterable:
                                      ^^^^^^^^^^^
                File "/usr/local/lib/python3.14/site-packages/datasets/iterable_dataset.py", line 2559, in __iter__
                  for key, pa_table in self._iter_arrow():
                                       ~~~~~~~~~~~~~~~~^^
                File "/usr/local/lib/python3.14/site-packages/datasets/iterable_dataset.py", line 2592, in _iter_arrow
                  pa_table = cast_table_to_features(pa_table, self.features)
                File "/usr/local/lib/python3.14/site-packages/datasets/table.py", line 2283, in cast_table_to_features
                  raise CastError(
                  ...<3 lines>...
                  )
              datasets.table.CastError: Couldn't cast
              label: int64
              input: string
              is_short: bool
              edited: bool
              -- schema metadata --
              pandas: '{"index_columns": [{"kind": "range", "name": null, "start": 0, "' + 716
              to
              {'label': Value('int64'), 'input': Value('string')}
              because column names don't match

Need help to make the dataset viewer work? Make sure to review how to configure the dataset viewer, and open a discussion for direct support.

hendrycks/ethics(複製)

データの内容

言語モデルを AI のアラインメントの観点で評価するための、倫理に基づくタスクのデータ。commonsense、deontology、justice、utilitarianism、virtue の 5 セクションからなり、1 行が入力 input と label を持つ。label の値の意味は元のカードに書かれていない。論文は Hendrycks らの "Aligning AI With Shared Human Values"(ICLR 2021)である。

データの概要

項目 値
行数 134,417(5 構成・15 分割の合計)
列数 2〜3(構成による)
容量 35.58 MB(ファイル 19 本)
ファイルの形式 csv 16、py 1
言語 en
公開 public

構成と分割

構成(config) 分割(split)ごとの行数 列数
commonsense train 13,910、validation 3,885、test 3,964 2
deontology train 18,164、validation 3,596、test 3,536 3
justice train 21,791、validation 2,704、test 2,052 2
utilitarianism train 13,737、validation 4,807、test 4,271 2
virtue train 28,245、validation 4,975、test 4,780 2

列(構成 commonsense・分割 train。構成ごとに列が違う)

列 型 先頭の行の値
label int32 1
input string I went to the principal's office to change my re…

行数と列は HF のデータセットビューアの集計(元のデータセットの現在の版で数えたもの)。全データセットの一覧は HYUKI5/dataset-catalog にある。

複製について

hendrycks/ethics をリビジョン b8b47c589f8bee77175b8648e5497278b68da48a の時点でそのまま複製したもの。中身は変えていない。判断モデル Laya(convaiinnovations/laya)の微調整に使う候補として、調査メモ(Laya 学習用データセット調査)に載せたデータを集めている。

出典

論文

アノテーションの方法

(元のカードに該当の見出しが無いので、ラベルの付け方に触れた段落を抜き出した)

これは Aligning AI With Shared Human Values のデータである(Dan Hendrycks、Collin Burns、Steven Basart、Andrew Critch、Jerry Li、Dawn Song、Jacob Steinhardt、ICLR 2021 で発表)。 詳細は Github リポジトリ を参照。

引用情報

@article{hendrycks2021ethics,
  title={Aligning AI With Shared Human Values},
  author={Dan Hendrycks and Collin Burns and Steven Basart and Andrew Critch and Jerry Li and Dawn Song and Jacob Steinhardt},
  journal={Proceedings of the International Conference on Learning Representations (ICLR)},
  year={2021}
}

微調整に使うときの注意

  • 調査メモの台帳での区分: A(許諾型のライセンスだけで、疑義の注記が無い)。区分は記載の文言で機械的に付けたもので、法的な判定ではない。学習に入れる前に元のカードとライセンスの原文で確かめる。
  • Laya の入力は 2,048 token まで(ModernBERT-large / mmBERT)。長い本文は先頭から黙って切られるので、切れる行は事前に除くか、要約・切り出しをしてから入れる。
  • 分割は記事・文書単位で行い、同じ本文から作った別の問いを学習側と較正側に分けない。温度と閾値は学習に使っていない分割で別々に当てる。

調査メモの記述

メモ 節 ライセンス(記載) 確認 注記
jev_sources_tasksource_bekko.csv CSV(tasksource-jev-typed-decisions) mit / license_use=commercial 確認済 license_use=commercial / [Jev 元データ source] source_annotation_converted(deterministic recast; no model r
jev_sources_tasksource_bekko.csv CSV(tasksource-jev-typed-decisions) mit / license_use=commercial 確認済 license_use=commercial / [Jev 元データ source] source_annotation_converted(deterministic recast; no model r
jev_sources_tasksource_bekko.csv CSV(tasksource-jev-typed-decisions) mit / license_use=commercial 確認済 license_use=commercial / [Jev 元データ source] source_annotation_converted(deterministic recast; no model r
jev_sources_tasksource_bekko.csv CSV(tasksource-jev-typed-decisions) mit / license_use=commercial 確認済 license_use=commercial / [Jev 元データ source] source_annotation_converted(deterministic recast; no model r
jev_sources_tasksource_bekko.csv CSV(tasksource-jev-typed-decisions) mit / license_use=commercial 確認済 license_use=commercial / [Jev 元データ source] source_annotation_converted(deterministic recast; no model r
jev_sources_tasksource_bekko.csv CSV(bekko-system-one-dataset-v0) MIT 確認済 [Jev 元データ source] source_annotation_converted(Choice/Noul/Score recast; soft t

元のカード(日本語訳)

以下は元のデータセットのカードの本文を日本語に訳したもの(機械翻訳)。訳に疑問があるときは、末尾の原文を確かめる。


ETHICS のデータセットカード

これは Aligning AI With Shared Human Values のデータである(Dan Hendrycks、Collin Burns、Steven Basart、Andrew Critch、Jerry Li、Dawn Song、Jacob Steinhardt、ICLR 2021 で発表)。 詳細は Github リポジトリ を参照。

データセットの要約

このデータセットは、AI アラインメントのために言語モデルを評価する、倫理に基づくタスクを提供する。

データの読み込み

このデータを読み込むには、HuggingFace の datasets とデータローダのスクリプトを使える。

from datasets import load_dataset
load_dataset("hendrycks/ethics", "commonsense")

commonsense は次のセクションのいずれかである: commonsense、deontology、justice、utilitarianism、virtue。

引用情報

@article{hendrycks2021ethics,
  title={Aligning AI With Shared Human Values},
  author={Dan Hendrycks and Collin Burns and Steven Basart and Andrew Critch and Jerry Li and Dawn Song and Jacob Steinhardt},
  journal={Proceedings of the International Conference on Learning Representations (ICLR)},
  year={2021}
}
原文(英語)

Dataset Card for ETHICS

This is the data from Aligning AI With Shared Human Values by Dan Hendrycks, Collin Burns, Steven Basart, Andrew Critch, Jerry Li, Dawn Song, and Jacob Steinhardt, published at ICLR 2021. For more information, see the Github Repo.

Dataset Summary

This dataset provides ethics-based tasks for evaluating language models for AI alignment.

Loading Data

To load this data, you can use HuggingFace datasets and the dataloader script.

from datasets import load_dataset
load_dataset("hendrycks/ethics", "commonsense")

Where commonsense is one of the following sections: commonsense, deontology, justice, utilitarianism, and virtue.

Citation Information

@article{hendrycks2021ethics,
  title={Aligning AI With Shared Human Values},
  author={Dan Hendrycks and Collin Burns and Steven Basart and Andrew Critch and Jerry Li and Dawn Song and Jacob Steinhardt},
  journal={Proceedings of the International Conference on Learning Representations (ICLR)},
  year={2021}
}
Downloads last month
46

Paper for HYUKI5/hendrycks__ethics