roro128 commited on
Commit
345de23
·
verified ·
1 Parent(s): e401f4a

Upload README.md with huggingface_hub

Browse files
Files changed (1) hide show
  1. README.md +98 -0
README.md ADDED
@@ -0,0 +1,98 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ ---
2
+ dataset_info:
3
+ features:
4
+ - name: id
5
+ dtype: int64
6
+ - name: num_samples
7
+ dtype: int64
8
+ - name: transcription
9
+ dtype: string
10
+ - name: raw_transcription
11
+ dtype: string
12
+ - name: gender
13
+ dtype: int64
14
+ - name: path
15
+ dtype: string
16
+ - name: language
17
+ dtype: string
18
+ - name: audio
19
+ struct:
20
+ - name: bytes
21
+ dtype: binary
22
+ - name: path
23
+ dtype: string
24
+ license: cc-by-4.0
25
+ task_categories:
26
+ - automatic-speech-recognition
27
+ - audio-classification
28
+ tags:
29
+ - speech
30
+ - audio
31
+ - fleurs
32
+ - flac
33
+ - lossless
34
+ - speech-recognition
35
+ size_categories:
36
+ - 100G<n<1T
37
+ ---
38
+
39
+ # FLEURS-FLAC: Losslessly FLAC-Compressed Google FLEURS Dataset
40
+
41
+ `roro128/fleurs-flac`은 Google의 **FLEURS (Few-shot Learning Evaluation of Universal Representations of Speech)** 오디오 데이터셋(102개 언어)을 원본 음질 손상 없이 **FLAC (PCM24 무손실) 포맷으로 압축**하고 **500MB Parquet 샤드** 단위로 최적화하여 배포하는 데이터셋입니다.
42
+
43
+ ## 🚀 주요 특징 (Key Features)
44
+
45
+ - **FLAC 무손실 압축**: 원본 오디오 샘플 해시 및 PCM 무손실 검증 완료.
46
+ - **고속 디코딩 및 스트리밍**: 학습 및 추론 시 오디오 해제/읽기 속도를 극대화.
47
+ - **500MB Parquet Sharding**: 메모리 및 네트워크 대역폭에 최적화된 샤드 단위 관리.
48
+ - **102개 전체 언어 완벽 지원**: `train`, `validation`, `test` 분할 완벽 수록.
49
+
50
+ ## 💻 사용법 (Usage)
51
+
52
+ Hugging Face `datasets` 라이브러리를 사용하여 간편하게 로드할 수 있습니다:
53
+
54
+ ```python
55
+ from datasets import load_dataset
56
+
57
+ # 특정 언어 로드 (예: 한국어 'ko_kr')
58
+ dataset = load_dataset("roro128/fleurs-flac", "ko_kr")
59
+
60
+ # 데이터셋 분할 접근
61
+ train_data = dataset["train"]
62
+ print(train_data[0])
63
+ ```
64
+
65
+ ### 오디오 디코딩 사용예시
66
+ ```python
67
+ from datasets import Audio, load_dataset
68
+
69
+ dataset = load_dataset("roro128/fleurs-flac", "ko_kr")
70
+
71
+ # 오디오 기능 디코딩 설정
72
+ dataset = dataset.cast_column("audio", Audio())
73
+ sample = dataset["train"][0]
74
+
75
+ print("Sample Rate:", sample["audio"]["sampling_rate"])
76
+ print("Audio Array:", sample["audio"]["array"])
77
+ ```
78
+
79
+ ## 📊 데이터셋 구조 (Dataset Structure)
80
+
81
+ | Column | Type | Description |
82
+ | :--- | :--- | :--- |
83
+ | `id` | `int64` | 샘플 식별 고유 ID |
84
+ | `num_samples` | `int64` | PCM 샘플 개수 |
85
+ | `raw_transcription` | `string` | 원본 전사 텍스트 |
86
+ | `transcription` | `string` | 정제된 전사 텍스트 |
87
+ | `gender` | `int64` | 성별 (0: MALE, 1: FEMALE) |
88
+ | `path` | `string` | 오디오 상대 경로 |
89
+ | `language` | `string` | 언어 코드 (예: `af_za`, `ko_kr`) |
90
+ | `audio` | `dict` | `{"bytes": binary, "path": string}` FLAC 오디오 데이터 |
91
+
92
+ ## 🌐 지원 언어 목록 (102 Languages)
93
+
94
+ `af_za`, `am_et`, `ar_eg`, `as_in`, `ast_es`, `az_az`, `be_by`, `bg_bg`, `bn_in`, `bs_ba`, `ca_es`, `ceb_ph`, `ckb_iq`, `cmn_hans_cn`, `cs_cz`, `cy_gb`, `da_dk`, `de_de`, `el_gr`, `en_us`, `es_419`, `et_ee`, `fa_ir`, `ff_sn`, `fi_fi`, `fil_ph`, `fr_fr`, `ga_ie`, `gl_es`, `gu_in`, `ha_ng`, `he_il`, `hi_in`, `hr_hr`, `hu_hu`, `hy_am`, `id_id`, `ig_ng`, `is_is`, `it_it`, `ja_jp`, `jv_id`, `ka_ge`, `kam_ke`, `kea_cv`, `kk_kz`, `km_kh`, `kn_in`, `ko_kr`, `ky_kg`, `lb_lu`, `lg_ug`, `ln_cd`, `lo_la`, `lt_lt`, `luo_ke`, `lv_lv`, `mi_nz`, `mk_mk`, `ml_in`, `mn_mn`, `mr_in`, `ms_my`, `mt_mt`, `my_mm`, `nb_no`, `ne_np`, `nl_nl`, `nso_za`, `ny_mw`, `oc_fr`, `om_et`, `or_in`, `pa_in`, `pl_pl`, `ps_af`, `pt_br`, `ro_ro`, `ru_ru`, `sd_in`, `sk_sk`, `sl_si`, `sn_zw`, `so_so`, `sq_al`, `sr_rs`, `sv_se`, `sw_ke`, `ta_in`, `te_in`, `tg_tj`, `th_th`, `tr_tr`, `uk_ua`, `ur_pk`, `uz_uz`, `vi_vn`, `wo_sn`, `xh_za`, `yo_ng`, `yue_hant_hk`, `zu_za`.
95
+
96
+ ## 📜 라이선스 (License)
97
+
98
+ 원본 데이터셋과 동일하게 **CC-BY-4.0** 라이선스를 따릅니다.