Dataset Viewer

The dataset viewer is not available because its heuristics could not detect any supported data files. You can try uploading some data files, or configuring the data files location manually.

e9t/nsmc(複製)

データの内容

Naver の映画レビューの感情分析データセット NSMC(Naver Sentiment Movie Corpus)。1 行は韓国のインターネット利用者が書いた映画レビューの本文 document、Naver が付けた一意の id、0(否定)か 1(肯定)の label の組。出典はカードの引用に挙がる Lucy Park(2016)で、GitHub の e9t/nsmc で公開されている。

データの概要

項目 値
行数 200,000(1 構成・2 分割の合計)
列数 3
容量 8.09 KB(ファイル 3 本)
ファイルの形式 py 1
言語 ko
公開 public

構成と分割

構成(config) 分割(split)ごとの行数 列数
default train 150,000、test 50,000 3

列(構成 default)

列 型
id string
document string
label struct{class_label: struct{names: struct{…}}}

行数と列は元のカードの YAML(dataset_info)の記載。データセットビューアでは読めなかった。全データセットの一覧は HYUKI5/dataset-catalog にある。

複製について

e9t/nsmc をリビジョン e8ac4f539e5604fec0b3c67ed040728e0862b5e1 の時点でそのまま複製したもの。中身は変えていない。判断モデル Laya(convaiinnovations/laya)の微調整に使う候補として、調査メモ(Laya 学習用データセット調査)に載せたデータを集めている。

出典

論文

  • 元のカードに論文へのリンクは見つからなかった

アノテーションの方法

元のカードにアノテーションの節はあるが、中身は空欄(More Information Needed)だった。

微調整に使うときの注意

  • 調査メモの台帳での区分: A(許諾型のライセンスだけで、疑義の注記が無い)。区分は記載の文言で機械的に付けたもので、法的な判定ではない。学習に入れる前に元のカードとライセンスの原文で確かめる。
  • Laya の入力は 2,048 token まで(ModernBERT-large / mmBERT)。長い本文は先頭から黙って切られるので、切れる行は事前に除くか、要約・切り出しをしてから入れる。
  • 分割は記事・文書単位で行い、同じ本文から作った別の問いを学習側と較正側に分けない。温度と閾値は学習に使っていない分割で別々に当てる。

調査メモの記述

メモ 節 ライセンス(記載) 確認 注記
multilingual_cjk.md 4. 韓国語データセット (L213) cc-by-2.0(card の license 欄) 確認済 確認印なし(各ファイルの凡例により確認済扱い) / 原文注記: script同梱(nsmc.py)だが cardData に split 情報あり。映画レビュー短文。別: Blpeng/nsmc(license空欄)

元のカード(日本語訳)

以下は元のデータセットのカードの本文を日本語に訳したもの(機械翻訳)。訳に疑問があるときは、末尾の原文を確かめる。


データセットカード: Naver sentiment movie corpus

目次

  • データセットの説明
    • データセットの概要
    • 対応タスクとリーダーボード
    • 言語
  • データセットの構造
    • データのインスタンス
    • データのフィールド
    • データの split
  • データセットの作成
    • 収集の根拠
    • 元データ
    • アノテーション
    • 個人情報と機微情報
  • データ利用上の留意点
    • データセットの社会的影響
    • バイアスに関する考察
    • その他の既知の制限
  • 追加情報
    • データセットの作成者
    • ライセンス情報
    • 引用情報
    • 貢献

データセットの説明

  • ホームページ: Github
  • リポジトリ: Github
  • 論文:
  • リーダーボード:
  • 連絡先:

データセットの概要

[More Information Needed]

対応タスクとリーダーボード

[More Information Needed]

言語

[More Information Needed]

データセットの構造

データのインスタンス

[More Information Needed]

データのフィールド

各インスタンスは、韓国で最もよく使われる検索エンジンである Naver に、韓国のインターネット利用者が書いた映画レビューである。各行は次のフィールドに分けられる:

  • id: Naver が付与する一意のレビュー ID
  • document: 映画レビューの本文
  • label: 感情分析用の二値ラベル。0 が否定的、1 が肯定的を表す

データの split

[More Information Needed]

データセットの作成

収集の根拠

[More Information Needed]

元データ

初期のデータ収集と正規化

[More Information Needed]

元の言語の作成者は誰か?

[More Information Needed]

アノテーション

アノテーションの過程

[More Information Needed]

アノテーターは誰か?

[More Information Needed]

個人情報と機微情報

[More Information Needed]

データ利用上の留意点

データセットの社会的影響

[More Information Needed]

バイアスに関する考察

[More Information Needed]

その他の既知の制限

[More Information Needed]

追加情報

データセットの作成者

[More Information Needed]

ライセンス情報

[More Information Needed]

引用情報

@InProceedings{Park:2016,
  title        = "Naver Sentiment Movie Corpus",
  author       = "Lucy Park",
  year         = "2016",
  howpublished = {\\url{https://github.com/e9t/nsmc}}
}

貢献

このデータセットを追加してくれた @jaketae に感謝する。

原文(英語)

Dataset Card for Naver sentiment movie corpus

Dataset Summary

[More Information Needed]

Supported Tasks and Leaderboards

[More Information Needed]

Languages

[More Information Needed]

Dataset Structure

Data Instances

[More Information Needed]

Data Fields

Each instance is a movie review written by Korean internet users on Naver, the most commonly used search engine in Korea. Each row can be broken down into the following fields:

  • id: A unique review ID, provided by Naver
  • document: The actual movie review
  • label: Binary labels for sentiment analysis, where 0 denotes negative, and 1, positive

Data Splits

[More Information Needed]

Dataset Creation

Curation Rationale

[More Information Needed]

Source Data

Initial Data Collection and Normalization

[More Information Needed]

Who are the source language producers?

[More Information Needed]

Annotations

Annotation process

[More Information Needed]

Who are the annotators?

[More Information Needed]

Personal and Sensitive Information

[More Information Needed]

Considerations for Using the Data

Social Impact of Dataset

[More Information Needed]

Discussion of Biases

[More Information Needed]

Other Known Limitations

[More Information Needed]

Additional Information

Dataset Curators

[More Information Needed]

Licensing Information

[More Information Needed]

Citation Information

@InProceedings{Park:2016,
  title        = "Naver Sentiment Movie Corpus",
  author       = "Lucy Park",
  year         = "2016",
  howpublished = {\\url{https://github.com/e9t/nsmc}}
}

Contributions

Thanks to @jaketae for adding this dataset.

Downloads last month
88