MigoXV/vad-human-ava-speech

AVA-Speech 原始标注 · 无损 FLAC Parquet

本数据集将 nccratliri/vad-human-ava-speech 的全部 160 对 WAV + JSON 整理为内嵌 FLAC 音频的 Parquet。保留上游的录音长度、采样率、通道数、位深、train/test 划分以及标注全部字段和数值；音频与标注直接放在同一条 Parquet 记录中。

标注来自上游提供的 WhisperSeg / AVA-Speech 语音区间，按 utterance 级别给出。onset、offset、cluster 和其余八个配置字段均逐条核对。音频没有裁剪、重采样、混声、补零或幅度归一化；仅把 PCM WAV 编码为无损 FLAC。

来源与版本

• 原始整理版：nccratliri/vad-human-ava-speech。
• 本次锁定 commit：fefdf18c196e4b3de0c2cf84652e3983efb8530d。
• 原始任务：Google AVA-Speech。
• 原始研究与实现：WhisperSeg。
• 数据版本：flac-parquet-v1，目标仓库：MigoXV/vad-human-ava-speech。
• 上游原文与完整参考文献保存在 source/README.original.md。

这里统计的是本次锁定的 WhisperSeg 音频整理版全部可用记录。它共有 39 小时 40 分钟；Google 官方 AVA-Speech 的名义规模约 45 小时，两者覆盖范围不同。

原始音频全面审计

对全部 160 个 WAV 实际读取音频头信息，统计结果如下。位深来自 PCM 样本宽度，不以文件后缀猜测。

属性	值	录音数	占比
采样率	16,000 Hz	160	100%
通道数	1（单声道）	160	100%
位深	16-bit	160	100%
WAV 编码	未压缩 PCM	160	100%

新版 FLAC 同样全部为 16,000 Hz、单声道、PCM_16。每条的解码采样点数与原 WAV 一致，全部 160 条已完成逐采样等值验证和 PCM SHA-256 验证。

录音数量、长度与划分

split	录音数	每条长度	每条采样点数	总时长
train	158	900 秒（15 分钟）	14,400,000	39 小时 30 分钟
test	2	300 秒（5 分钟）	4,800,000	10 分钟
合计	160	保留原始长度	2,284,800,000	39 小时 40 分钟

保留上游已有 train/test，未创建 validation，未重新分配录音或片段。2 条测试录音的统计仅描述本次整理版，不替代官方 AVA 完整评测划分。

有效音与无效音统计

本 README 中，“有效音”定义为上游 cluster=human_SPEECH 标注覆盖的语音时间；“无效音”定义为同一录音内这些区间之外的时间，包括静音、音乐和非语音噪声。它们是 VAD 的语音/非语音类别，不表示音频文件好坏，也不使用能量阈值重新标注。

计算方式：对每条录音先校验 0 <= onset < offset <= 录音长度，再计算语音区间的并集长度，防止重叠区间重复计时；非语音时长等于录音总时长减去并集时长。相邻区间可合并用于统计，存储的原始区间不变。总占比按秒加权，而非对每条占比取平均。

split	总时长（小时）	有效音（小时）	无效音（小时）	有效音占比	无效音占比	区间数
train	39.500000000	20.698022222	18.801977778	52.400056%	47.599944%	21,958
test	0.166666667	0.089530556	0.077136111	53.718333%	46.281667%	93
合计	39.666666667	20.787552778	18.879113889	52.405595%	47.594405%	22,051

累计有效音：20:47:15.190（74835.190000 秒）；累计无效音：18:52:44.810（67964.810000 秒）。原始标注的浮点数精度保留，表格仅在展示时四舍五入。

无损编码与大小比较

每条 FLAC 通过 libsndfile 编码，format=FLAC、subtype=PCM_16、compression_level=1.0（最高压缩档）。该参数调整编码开销与压缩率，解码 PCM 与原 WAV 完全相同。Parquet 外层使用 Zstandard level 3；FLAC bytes 作为二进制内嵌，音频已压缩，因此外层压缩的主要作用是整理表格和标注。

大小统一采用实际文件的逻辑字节数：GB = bytes / 1,000,000,000，GiB = bytes / 1,073,741,824。数据主体和仓库附加文件分别列出；Hugging Face 下载缓存不计入源数据集发布大小。字节数不同于磁盘文件系统分配块占用，也不同于解码时的内存占用。

大小口径	字节数	十进制 GB	二进制 GiB
压缩前：全部 WAV	4,569,607,040	4.569607040	4.255778193
压缩前：全部原始 JSON	1,029,953	0.001029953	0.000959218
压缩前：WAV + JSON 数据主体	4,570,636,993	4.570636993	4.256737412
压缩前：原始数据集全部发布文件（不含缓存）	4,570,642,353	4.570642353	4.256742404
原始本地目录的下载缓存	106,469	0.000106469	0.000099157
原始本地整个目录（含下载缓存）	4,570,748,822	4.570748822	4.256841561
压缩后：全部内嵌 FLAC bytes	2,699,780,478	2.699780478	2.514366506
压缩后：全部 Parquet 数据主体	2,700,603,311	2.700603311	2.515132829
压缩后：新数据集全部发布文件（含 README、报告及工具）	2,700,890,085	2.700890085	2.515399908

WAV → FLAC 的音频净体积减少 **40.918761%**，FLAC 占原 WAV 的 **59.081239%**。WAV + JSON → Parquet 的数据主体体积减少 **40.914071%**。 新数据集整个发布目录相对原始发布目录减少 **40.907866%**。

split	WAV + JSON 原始字节数	内嵌 FLAC 字节数	Parquet 字节数	Parquet 分片数
train	4,551,431,868	2,687,640,562	2,688,452,361	10
test	19,205,125	12,139,916	12,150,950	1

Parquet 格式与原始标注兼容

每行对应一条完整原录音及其原始 JSON。原来的 11 个 JSON 字段全部处于行的顶层，字段名、值、数组顺序与一一对应关系保持一致。仅增加 audio 容器用来存放音频；没有把标注改成训练框架的 seconds.starts/durations，也没有转换成分类标签或逐帧掩码。

字段	Arrow 类型	含义及原始值
audio	struct<bytes: binary, path: string>	新增的音频容器，bytes 是完整 FLAC 文件，path 是原 split 与同名 .flac 标识。
onset	list<float64>	原始语音区间开始时间，单位秒，相对当前完整录音。
offset	list<float64>	原始语音区间结束时间，单位秒；与 onset 按位置配对。
cluster	list<string>	每个区间的原始类别，本数据全为 human_SPEECH。
species	string	原始物种字段，全部 human。
sr	int64	原始采样率字段，全部 16000。
min_frequency	int64	原始配置字段，全部 0。
spec_time_step	float64	原始配置字段，全部 0.01。
min_segment_length	float64	原始配置字段，全部 0.1。
tolerance	float64	原始配置字段，全部 0.2。
time_per_frame_for_scoring	float64	原始配置字段，全部 0.01。
eps	float64	原始配置字段，全部 0.2。

onset、offset、cluster 的长度一致。时间均相对于该行完整录音的开头，单位是秒。配置字段的算法语义以原始 WhisperSeg 实现为准，本转换原样保存。

audio.path 例如 train/human_-5KQ66BBWC4_clip.flac，用于保留 split 与来源文件名。音频内容完整位于 audio.bytes，路径只是标识，不需要另有 FLAC 文件或访问原始目录。全部 Parquet 已保存 Hugging Face Audio feature 元数据，可以标准方式加载。JSON 反序列化后的值逐行一致；由于存储介质改为 Parquet，JSON 的空白排版不作为数据格式的一部分保存。

文件组织

vad-human-ava-speech/
├── README.md
├── LICENSE
├── .gitattributes
├── SHA256SUMS
├── data/
│   ├── train-00000-of-00010.parquet
│   ├── ...
│   ├── train-00009-of-00010.parquet
│   └── test-00000-of-00001.parquet
├── reports/
│   ├── statistics.json
│   ├── recordings.json
│   ├── annotation-schema.json
│   └── hf-loader-validation.json
├── source/
│   ├── README.original.md
│   └── revision-manifest.json
└── tools/
    ├── build_dataset.py
    └── requirements.txt

train 每片最多 16 条，最后一片 14 条；test 一片 2 条。每个 Parquet row group 写入 1 条完整录音，以便逐条校验，避免把整个数据集音频一次读入内存。

reports/statistics.json 保存精确时长、数量、各 split 占比、音频属性、体积、来源 revision、分片哈希和编码依赖版本。reports/recordings.json 保存逐录音属性、区间数、有效/无效音时长、WAV/JSON/FLAC 大小及 SHA-256、原始 JSON Git blob SHA-1、PCM SHA-256、所在分片。SHA256SUMS 校验全部发布文件，排除该校验文件自身。

加载、解码及恢复原标注

import io
import json
import soundfile as sf
from datasets import Audio, load_dataset

train = load_dataset("MigoXV/vad-human-ava-speech", split="train")
# 直接读取内嵌 bytes，不需要 TorchCodec/FFmpeg 自动解码后端。
train = train.cast_column("audio", Audio(sampling_rate=16000, decode=False))
row = train[0]
samples, sr = sf.read(io.BytesIO(row["audio"]["bytes"]), dtype="int16")
assert sr == row["sr"] == 16000
assert len(samples) == 14_400_000  # train 原录音长 900 秒

# 重建与原始 JSON 相同的字段结构及值。
annotation = {key: value for key, value in row.items() if key != "audio"}
with open("annotation.json", "w", encoding="utf-8") as f:
    json.dump(annotation, f, ensure_ascii=False)
# 如需独立 FLAC，原样写出 bytes 即可。
with open("audio.flac", "wb") as f:
    f.write(row["audio"]["bytes"])

test 的对应加载方式是 split="test"。本地可使用 load_dataset("/你的目录/vad-human-ava-speech", split="train")。使用默认 Audio(decode=True) 时，解码后端依赖随 datasets 版本变化；上述 bytes + soundfile 示例保持直接、可校验。

完整性与无损验证

完成以下全部数据检查：

1. 160 个 WAV 与 160 个 JSON 完整配对。
2. 原始 WAV SHA-256 与固定上游 commit 的 LFS 哈希一致，原始 JSON Git blob SHA-1 与对应来源清单一致。
3. 原始标注全部字段一致，区间长度匹配、有限、升序、在录音范围内；语音时长按区间并集统计。
4. 每条编码后解码，采样率、通道数、位深和采样点数一致，PCM 数组逐采样完全相等。
5. 从写好的 Parquet 重新读取全部 160 行，逐行比对原始 JSON 的全部值，核对 FLAC bytes 哈希及解码后的 PCM SHA-256。
6. 使用标准 datasets.load_dataset 加载 train/test，检查样本数、字段和所有行的标注，记录结果于 reports/hf-loader-validation.json。

保留原始标注并不等于重新评定其标注质量。电影对白与音乐、噪声混合的场景适合 VAD，但模型在实际会议、电话等场景的表现仍应在相应评测集检查。

本地制作复现

脚本拒绝覆盖已有 data/。输入是原始完整目录，输出应选择新空目录。脚本保留全部来源记录，不抽样、不改划分。

# 本次在 Ninna 的 Poetry 环境执行。
poetry run pip install -r tools/requirements.txt
poetry run python tools/build_dataset.py build \
  --source /workspace/data-bin/nccratliri/vad-human-ava-speech \
  --output /workspace/data-bin/MigoXV/vad-human-ava-speech-v2
poetry run python tools/build_dataset.py check \
  --source /workspace/data-bin/nccratliri/vad-human-ava-speech \
  --output /workspace/data-bin/MigoXV/vad-human-ava-speech-v2

原始来源目录的 Hugging Face 下载 revision 清单用于哈希验证；本仓库也随附 source/revision-manifest.json 作为固定版本回退清单，所以普通下载得到的源目录即使没有额外的下载缓存索引也可以校验。工具生成核心 Parquet、逐条报告和统计文件；本数据卡还包含发布前额外完成的 HF 加载验证、许可原文和发布文件校验和。FLAC PCM 无损性通过采样值验证，不以压缩文件字节是否在不同库版本间一致来判断。

许可与引用

上游数据卡标注 Apache-2.0，本仓库沿用该许可标识，附 LICENSE 与上游 README。源电影的权利归属沿原始 AVA 数据说明，不因本次存储转换而改变。

请引用原始 AVA-Speech 与 WhisperSeg 研究；完整 BibTeX 在 source/README.original.md。本仓库提供存储转换、逐条无损校验、完整统计与来源追溯，不将这些整理工作归为原始数据采集或标注贡献。

本次生成时间（UTC）：2026-10-04T10:14:49.067228+00:00。编码环境：Python 3.10.18、NumPy 1.26.4、PyArrow 21.0.0、SoundFile 0.13.1、libsndfile 1.2.2。