zsy814/instructtts-three-model-gemini-zh

InstructTTSEval 三模型 Gemini 评测数据

本目录整理了 InstructTTSEval 中文集上三个 TTS 模型的生成音频和 Gemini 一致性评测结果：Qwen3-TTS-12Hz-1.7B-VoiceDesign、Seed-Audio-1.0、VoxCPM2。

字段

records.jsonl 每行对应一个模型和一种控制格式（APS、DSD 或 RP）：

• id：InstructTTSEval 样本 ID
• mode：控制格式
• model、model_name：模型标识
• text：合成文本
• instruction：历史评测记录中的输入控制指令，按本行 APS/DSD/RP 格式保留；不等同于各模型 API 的完整请求封装
• generated_audio：该模型生成音频的相对路径
• reference_audio：原始参考音频的相对路径
• gemini_consistent：Gemini judge 的一致性判断
• inconsistency_reason：判断为不一致时的原因
• judge_model：评测模型
• judge_prompt_sha256：从对应历史评测汇总恢复的 prompt 文件 SHA-256
• judge_temperature：对应评测汇总记录的温度

音频目录按 audio/{model}/{mode}/ 分类，原始参考音频位于 reference/。

数据规模

Qwen3-TTS 和 VoxCPM2 各有 3000 条有效评测（APS/DSD/RP 各 1000 条）；Seed-Audio-1.0 有 2985 条有效评测。Seed-Audio 的 15 条缺失结果没有写入 records.jsonl。

模型	APS	DSD	RP	总计
Qwen3-TTS	1000	1000	1000	3000
Seed-Audio-1.0	993	995	997	2985
VoxCPM2	1000	1000	1000	3000
总计	2993	2995	2997	8985

本包仅包含中文集。1000 条原始参考音频由三个模型、三种控制格式共享，并非 8985 条独立原始样本。用 (id, mode, model) 唯一定位一条记录；跨模型比较时按 (id, mode) 取交集，不能按行号对齐。APS 是结构化属性控制，DSD 是自然语言描述，RP 是角色扮演控制。

Gemini 使用 gemini-2.5-pro、温度 0、内部 OpenAI 兼容接口和带不一致原因的 InstructTTSEval judge prompt。gemini_consistent 是二元指令遵循一致性判断，不是 MOS、概率或音频自然度分数。

judge_prompt.txt 保存本次历史评测所对应的模板，文件哈希与三个模型的评测汇总一致。原始参考音频用于人工对照；本包的 Gemini 分数评价生成音频和输入控制是否一致，不是生成音频与参考音频的相似度。本包未重新生成音频或调用评测，也不包含人工标注页面中的人工判断。

true 表示 Gemini 判一致，false 表示判不一致；inconsistency_reason 保留原判定原因。API 错误和无有效布尔判断的结果不纳入本包。计算一致率时分母应使用有效记录数，不能把缺失结果算成不一致。自动判断可能存在误判，不应作为人工真值。原始数据、模型及输出的使用和再分发仍需遵循各自的授权条款；本说明不额外授予版权许可。

使用示例

import json
from pathlib import Path

root = Path(".")
for line in (root / "records.jsonl").open(encoding="utf-8"):
    row = json.loads(line)
    audio = root / row["generated_audio"]
    reference = root / row["reference_audio"] if row["reference_audio"] else None
    print(row["model"], row["mode"], row["gemini_consistent"], audio, reference)

上传时至少包含 records.jsonl、reference/、audio/ 和本说明文件。package_summary.json 提供机器可读的规模统计。

上传与读取

将整个目录作为 Hugging Face dataset 仓库内容上传，保持相对路径不变。无需上传内部 manifest、服务地址或凭据。音频是普通文件（本地可能复用硬链接），没有依赖外部目录的软链接；Git 上传时用本目录的 .gitattributes 管理音频 LFS。

records.jsonl 可作为 JSON 数据集读取；其中两列音频路径为字符串。若下载元数据后播放音频，还需要下载相应 audio/ 与 reference/ 文件。上面的 Python 示例适用于完整下载后的目录。