The dataset viewer is not available for this split.
Error code: StreamingRowsError
Exception: CastError
Message: Couldn't cast
label: int64
input: string
is_short: bool
edited: bool
-- schema metadata --
pandas: '{"index_columns": [{"kind": "range", "name": null, "start": 0, "' + 716
to
{'label': Value('int64'), 'input': Value('string')}
because column names don't match
Traceback: Traceback (most recent call last):
File "/src/services/worker/src/worker/utils.py", line 149, in get_rows_or_raise
return get_rows(
dataset=dataset,
...<4 lines>...
column_names=column_names,
)
File "/src/libs/libcommon/src/libcommon/utils.py", line 272, in decorator
return func(*args, **kwargs)
File "/src/services/worker/src/worker/utils.py", line 129, in get_rows
rows_plus_one = list(itertools.islice(safe_iter(ds, dataset=dataset), rows_max_number + 1))
File "/src/services/worker/src/worker/utils.py", line 544, in safe_iter
yield from ds.decode(False) if ds.features else ds
File "/usr/local/lib/python3.14/site-packages/datasets/iterable_dataset.py", line 3052, in __iter__
for key, example in ex_iterable:
^^^^^^^^^^^
File "/usr/local/lib/python3.14/site-packages/datasets/iterable_dataset.py", line 2559, in __iter__
for key, pa_table in self._iter_arrow():
~~~~~~~~~~~~~~~~^^
File "/usr/local/lib/python3.14/site-packages/datasets/iterable_dataset.py", line 2592, in _iter_arrow
pa_table = cast_table_to_features(pa_table, self.features)
File "/usr/local/lib/python3.14/site-packages/datasets/table.py", line 2283, in cast_table_to_features
raise CastError(
...<3 lines>...
)
datasets.table.CastError: Couldn't cast
label: int64
input: string
is_short: bool
edited: bool
-- schema metadata --
pandas: '{"index_columns": [{"kind": "range", "name": null, "start": 0, "' + 716
to
{'label': Value('int64'), 'input': Value('string')}
because column names don't matchNeed help to make the dataset viewer work? Make sure to review how to configure the dataset viewer, and open a discussion for direct support.
hendrycks/ethics(複製)
データの内容
言語モデルを AI のアラインメントの観点で評価するための、倫理に基づくタスクのデータ。commonsense、deontology、justice、utilitarianism、virtue の 5 セクションからなり、1 行が入力 input と label を持つ。label の値の意味は元のカードに書かれていない。論文は Hendrycks らの "Aligning AI With Shared Human Values"(ICLR 2021)である。
データの概要
| 項目 | 値 |
|---|---|
| 行数 | 134,417(5 構成・15 分割の合計) |
| 列数 | 2〜3(構成による) |
| 容量 | 35.58 MB(ファイル 19 本) |
| ファイルの形式 | csv 16、py 1 |
| 言語 | en |
| 公開 | public |
構成と分割
| 構成(config) | 分割(split)ごとの行数 | 列数 |
|---|---|---|
commonsense |
train 13,910、validation 3,885、test 3,964 |
2 |
deontology |
train 18,164、validation 3,596、test 3,536 |
3 |
justice |
train 21,791、validation 2,704、test 2,052 |
2 |
utilitarianism |
train 13,737、validation 4,807、test 4,271 |
2 |
virtue |
train 28,245、validation 4,975、test 4,780 |
2 |
列(構成 commonsense・分割 train。構成ごとに列が違う)
| 列 | 型 | 先頭の行の値 |
|---|---|---|
label |
int32 |
1 |
input |
string |
I went to the principal's office to change my re… |
行数と列は HF のデータセットビューアの集計(元のデータセットの現在の版で数えたもの)。全データセットの一覧は HYUKI5/dataset-catalog にある。
複製について
hendrycks/ethics をリビジョン b8b47c589f8bee77175b8648e5497278b68da48a の時点でそのまま複製したもの。中身は変えていない。判断モデル Laya(convaiinnovations/laya)の微調整に使う候補として、調査メモ(Laya 学習用データセット調査)に載せたデータを集めている。
出典
- 元のデータセット: https://huggingface.co/datasets/hendrycks/ethics
- 複製したリビジョン:
b8b47c589f8bee77175b8648e5497278b68da48a(2023-04-19 18:55:00+00:00) - 元のライセンス表記:
mit
論文
アノテーションの方法
(元のカードに該当の見出しが無いので、ラベルの付け方に触れた段落を抜き出した)
これは Aligning AI With Shared Human Values のデータである(Dan Hendrycks、Collin Burns、Steven Basart、Andrew Critch、Jerry Li、Dawn Song、Jacob Steinhardt、ICLR 2021 で発表)。 詳細は Github リポジトリ を参照。
引用情報
@article{hendrycks2021ethics,
title={Aligning AI With Shared Human Values},
author={Dan Hendrycks and Collin Burns and Steven Basart and Andrew Critch and Jerry Li and Dawn Song and Jacob Steinhardt},
journal={Proceedings of the International Conference on Learning Representations (ICLR)},
year={2021}
}
微調整に使うときの注意
- 調査メモの台帳での区分: A(許諾型のライセンスだけで、疑義の注記が無い)。区分は記載の文言で機械的に付けたもので、法的な判定ではない。学習に入れる前に元のカードとライセンスの原文で確かめる。
- Laya の入力は 2,048 token まで(ModernBERT-large / mmBERT)。長い本文は先頭から黙って切られるので、切れる行は事前に除くか、要約・切り出しをしてから入れる。
- 分割は記事・文書単位で行い、同じ本文から作った別の問いを学習側と較正側に分けない。温度と閾値は学習に使っていない分割で別々に当てる。
調査メモの記述
| メモ | 節 | ライセンス(記載) | 確認 | 注記 |
|---|---|---|---|---|
jev_sources_tasksource_bekko.csv |
CSV(tasksource-jev-typed-decisions) | mit / license_use=commercial | 確認済 | license_use=commercial / [Jev 元データ source] source_annotation_converted(deterministic recast; no model r |
jev_sources_tasksource_bekko.csv |
CSV(tasksource-jev-typed-decisions) | mit / license_use=commercial | 確認済 | license_use=commercial / [Jev 元データ source] source_annotation_converted(deterministic recast; no model r |
jev_sources_tasksource_bekko.csv |
CSV(tasksource-jev-typed-decisions) | mit / license_use=commercial | 確認済 | license_use=commercial / [Jev 元データ source] source_annotation_converted(deterministic recast; no model r |
jev_sources_tasksource_bekko.csv |
CSV(tasksource-jev-typed-decisions) | mit / license_use=commercial | 確認済 | license_use=commercial / [Jev 元データ source] source_annotation_converted(deterministic recast; no model r |
jev_sources_tasksource_bekko.csv |
CSV(tasksource-jev-typed-decisions) | mit / license_use=commercial | 確認済 | license_use=commercial / [Jev 元データ source] source_annotation_converted(deterministic recast; no model r |
jev_sources_tasksource_bekko.csv |
CSV(bekko-system-one-dataset-v0) | MIT | 確認済 | [Jev 元データ source] source_annotation_converted(Choice/Noul/Score recast; soft t |
元のカード(日本語訳)
以下は元のデータセットのカードの本文を日本語に訳したもの(機械翻訳)。訳に疑問があるときは、末尾の原文を確かめる。
ETHICS のデータセットカード
これは Aligning AI With Shared Human Values のデータである(Dan Hendrycks、Collin Burns、Steven Basart、Andrew Critch、Jerry Li、Dawn Song、Jacob Steinhardt、ICLR 2021 で発表)。 詳細は Github リポジトリ を参照。
データセットの要約
このデータセットは、AI アラインメントのために言語モデルを評価する、倫理に基づくタスクを提供する。
データの読み込み
このデータを読み込むには、HuggingFace の datasets とデータローダのスクリプトを使える。
from datasets import load_dataset
load_dataset("hendrycks/ethics", "commonsense")
commonsense は次のセクションのいずれかである: commonsense、deontology、justice、utilitarianism、virtue。
引用情報
@article{hendrycks2021ethics,
title={Aligning AI With Shared Human Values},
author={Dan Hendrycks and Collin Burns and Steven Basart and Andrew Critch and Jerry Li and Dawn Song and Jacob Steinhardt},
journal={Proceedings of the International Conference on Learning Representations (ICLR)},
year={2021}
}
原文(英語)
Dataset Card for ETHICS
This is the data from Aligning AI With Shared Human Values by Dan Hendrycks, Collin Burns, Steven Basart, Andrew Critch, Jerry Li, Dawn Song, and Jacob Steinhardt, published at ICLR 2021. For more information, see the Github Repo.
Dataset Summary
This dataset provides ethics-based tasks for evaluating language models for AI alignment.
Loading Data
To load this data, you can use HuggingFace datasets and the dataloader script.
from datasets import load_dataset
load_dataset("hendrycks/ethics", "commonsense")
Where commonsense is one of the following sections: commonsense, deontology, justice, utilitarianism, and virtue.
Citation Information
@article{hendrycks2021ethics,
title={Aligning AI With Shared Human Values},
author={Dan Hendrycks and Collin Burns and Steven Basart and Andrew Critch and Jerry Li and Dawn Song and Jacob Steinhardt},
journal={Proceedings of the International Conference on Learning Representations (ICLR)},
year={2021}
}
- Downloads last month
- 46