import{s as re,n as $e,o as ge}from"../chunks/scheduler.cd324960.js";import{S as Ce,i as ce,e as a,s as d,c as p,h as ve,a as s,d as l,b as i,f as he,g as f,j as o,k as Yt,l as xe,m as n,n as m,t as h,o as u,p as r}from"../chunks/index.d5c3adcc.js";import{C as be,H as C,E as _e}from"../chunks/MermaidChart.svelte_svelte_type_style_lang.7c2f06fe.js";import{C as ue}from"../chunks/CodeBlock.fc816cd0.js";function we(Et){let $,et,K,lt,c,nt,v,dt,x,Dt=`就像在其他机器学习问题中一样，我们的模型最多只能表现得与我们用来训练它的数据一样好。
语音识别数据集在组织方式和覆盖的领域方面有很大的不同，我们需要查看它们提供的特征，选出最符合我们标准的数据集。`,it,b,At="所以在选择数据集之前，我们首先需要了解特征的定义。",at,_,st,w,ot,M,Ft=`简单来说，训练小时数体现了数据集的大小，类似 NLP 数据集中的训练样例数量。然而，更大的数据集不一定更好。
如果我们想要一个泛化能力强的模型，就需要一个具有许多不同发言者、领域和发言风格的<strong>多样化</strong>数据集。`,pt,T,ft,y,Nt=`领域（domain）包括数据的来源，比如有声读物、播客、YouTube 还是金融会议。每个领域的数据分布都不同，
例如有声读物在高质量的录音室条件下录制（没有背景噪音），并且文本取自书面文学。而对于 YouTube，音频可能包含更多背景噪音和更非正式的语音风格。`,mt,H,Wt="我们需要保证选择的领域与推理时的条件相匹配。例如，如果我们在有声读物上训练我们的模型，就不能期望它在嘈杂的环境中表现良好。",ht,L,ut,j,Zt="说话风格（speaking style）分为两类：",rt,P,qt="<li>叙述性（Narrated）：按照给定的文本朗读</li> <li>自发性（Spontaneous）：没有固定剧本的对话</li>",$t,U,Rt="音频和文本数据反映了说话的风格。由于叙述文本是有剧本的，它表达得会比较清晰，没有任何错误：",gt,k,Ct,B,Qt="而自发性言语使用更口语化的说话风格，包括重复、犹豫和错误：",ct,V,vt,G,xt,J,Xt=`转写风格指的是目标文本是否有标点、区分大小写等。如果我们希望系统生成可用于出版物或会议转写的完全格式化文本，我们需要带有标点和大小写的训练数据。
如果我们只需要未格式化结构的口头言语，那么标点和大小写都不是必需的。在这种情况下，我们可以选择一个没有标点或大小写的数据集，或者选择一个有标点和大小写的数据集，然后通过预处理从目标文本中去除它们。`,bt,z,_t,I,Ot="以下是 Hugging Face Hub 上最受欢迎的英语语音识别数据集，作为您根据自己的标准选择数据集的参考：",wt,S,Kt='<thead><tr><th>数据集</th> <th>训练小时数</th> <th>领域</th> <th>说话风格</th> <th>大小写</th> <th>标点</th> <th>许可证</th> <th>推荐用途</th></tr></thead> <tbody><tr><td><a href="https://huggingface.co/datasets/librispeech_asr" rel="nofollow">LibriSpeech</a></td> <td>960</td> <td>有声读物</td> <td>叙述性</td> <td>❌</td> <td>❌</td> <td>CC-BY-4.0</td> <td>学术基准测试</td></tr> <tr><td><a href="https://huggingface.co/datasets/mozilla-foundation/common_voice_11_0" rel="nofollow">Common Voice 11</a></td> <td>3000</td> <td>维基百科</td> <td>叙述性</td> <td>✅</td> <td>✅</td> <td>CC0-1.0</td> <td>非母语发言者</td></tr> <tr><td><a href="https://huggingface.co/datasets/facebook/voxpopuli" rel="nofollow">VoxPopuli</a></td> <td>540</td> <td>欧洲议会</td> <td>演讲式</td> <td>❌</td> <td>✅</td> <td>CC0</td> <td>非母语发言者</td></tr> <tr><td><a href="https://huggingface.co/datasets/LIUM/tedlium" rel="nofollow">TED-LIUM</a></td> <td>450</td> <td>TED 演讲</td> <td>演讲式</td> <td>❌</td> <td>❌</td> <td>CC-BY-NC-ND 3.0</td> <td>技术主题</td></tr> <tr><td><a href="https://huggingface.co/datasets/speechcolab/gigaspeech" rel="nofollow">GigaSpeech</a></td> <td>10000</td> <td>有声读物、播客、YouTube</td> <td>叙述性、自发性</td> <td>❌</td> <td>✅</td> <td>apache-2.0</td> <td>多领域鲁棒性</td></tr> <tr><td><a href="https://huggingface.co/datasets/kensho/spgispeech" rel="nofollow">SPGISpeech</a></td> <td>5000</td> <td>金融会议</td> <td>演讲式、自发性</td> <td>✅</td> <td>✅</td> <td>User Agreement</td> <td>完全格式化的转写</td></tr> <tr><td><a href="https://huggingface.co/datasets/revdotcom/earnings22" rel="nofollow">Earnings-22</a></td> <td>119</td> <td>金融会议</td> <td>演讲式、自发性</td> <td>✅</td> <td>✅</td> <td>CC-BY-SA-4.0</td> <td>口音多样性</td></tr> <tr><td><a href="https://huggingface.co/datasets/edinburghcstr/ami" rel="nofollow">AMI</a></td> <td>100</td> <td>会议</td> <td>自发性</td> <td>✅</td> <td>✅</td> <td>CC-BY-4.0</td> <td>嘈杂语音环境</td></tr></tbody>',Mt,Y,te="以下是多语言语音识别数据集的表格，请注意，我们省略了训练小时数列（因为这取决于每个数据集有哪些语言，占比多少），改成了每个数据集的语言数量：",Tt,E,ee='<thead><tr><th>数据集</th> <th>语言数量</th> <th>领域</th> <th>说话风格</th> <th>大小写</th> <th>标点</th> <th>许可证</th> <th>推荐用途</th></tr></thead> <tbody><tr><td><a href="https://huggingface.co/datasets/facebook/multilingual_librispeech" rel="nofollow">Multilingual LibriSpeech</a></td> <td>6</td> <td>有声读物</td> <td>叙述性</td> <td>❌</td> <td>❌</td> <td>CC-BY-4.0</td> <td>学术基准测试</td></tr> <tr><td><a href="https://huggingface.co/datasets/mozilla-foundation/common_voice_13_0" rel="nofollow">Common Voice 13</a></td> <td>108</td> <td>维基百科文本和众筹的言语</td> <td>叙述性</td> <td>✅</td> <td>✅</td> <td>CC0-1.0</td> <td>多样化的发言者集合</td></tr> <tr><td><a href="https://huggingface.co/datasets/facebook/voxpopuli" rel="nofollow">VoxPopuli</a></td> <td>15</td> <td>欧洲议会</td> <td>自发性</td> <td>❌</td> <td>✅</td> <td>CC0</td> <td>欧洲语言</td></tr> <tr><td><a href="https://huggingface.co/datasets/google/fleurs" rel="nofollow">FLEURS</a></td> <td>101</td> <td>欧洲议会</td> <td>自发性</td> <td>❌</td> <td>❌</td> <td>CC-BY-4.0</td> <td>多语言评估</td></tr></tbody>',yt,D,le=`有关两个表中涵盖的音频数据集的详细分析，请参阅博文 <a href="https://huggingface.co/blog/audio-datasets#a-tour-of-audio-datasets-on-the-hub" rel="nofollow">音频数据集完全指南</a>。
虽然 Hub 上有超过 180 个语音识别数据集，但可能没有一个数据集符合您的需求。在这种情况下，也可以通过 🤗 Datasets 库来使用您自己的音频数据。要创建自定义音频数据集，请参考指南 <a href="https://huggingface.co/docs/datasets/audio_dataset" rel="nofollow">创建音频数据集</a>。
自定义音频数据集时，请考虑在 Hub 上分享最终构建出的数据集，以便社区中的其他人可以从您的成果中受益——音频社区包容且广大，您感谢其他人的贡献，其他人会像一样感谢您的贡献。`,Ht,A,ne=`好了！既然我们已经了解了选择 ASR 数据集的所有标准，那么我们为这个教程选择一个吧。我们知道 Whisper 已经在高资源语言（如英语和西班牙语）上做得很好了，
所以我们将专注于低资源的多语言转写。我们想保留 Whisper 预测标点和大小写的能力，所以从第二张表来看，Common Voice 13 是一个很好的候选数据集！`,Lt,F,jt,N,de=`Common Voice 13 是一个众筹的数据集，发言者用不同语言朗读并录制维基百科的文本。它是由 Mozilla 基金会发布的一系列 Common Voice 数据集之一。
在撰写本文时，Common Voice 13 是最新版的数据集，拥有迄今为止任何版本中最多的语言和每种语言最多的小时数。`,Pt,W,ie=`我们可以通过查看 Hub 上的数据集页面来获取 Common Voice 13 数据集的全部语言列表：<a href="https://huggingface.co/datasets/mozilla-foundation/common_voice_13_0" rel="nofollow">mozilla-foundation/common_voice_13_0</a>。
您第一次查看此页面时会被要求接受使用条款，之后您将获得完全访问数据集的权限。`,Ut,Z,ae=`一旦我们提交了使用数据集的认证信息，我们将看到数据集预览。数据集预览向我们展示了每种语言数据集的前 100 个样本。更重要的是，它已加载了可播放的音频样本。
对于这个单元，我们将选择 <a href="https://en.wikipedia.org/wiki/Maldivian_language" rel="nofollow"><em>Dhivehi</em></a>（或 <em>迪维希语</em>），一种在南亚岛国马尔代夫使用的印度-雅利安语。
虽然我们在本教程中只示范了迪维希语，但这里介绍的步骤适用于 Common Voice 13 数据集中 108 种语言的任何一种，以及 Hugging Face Hub 上 180 多个音频数据集的任何一个，没有语言或方言的限制。`,kt,q,se="我们可以通过使用下拉菜单将子集设置为 <code>dv</code> 来选择 Common Voice 13 的 Dhivehi 子集（<code>dv</code> 是迪维希语的语言代码）：",Bt,g,oe='<img src="https://huggingface.co/datasets/huggingface-course/audio-course-images/resolve/main/cv_13_dv_selection.png" alt="从数据集预览中选择 Dhivehi 集"/>',Vt,R,pe=`如果我们点击第一个样本上的播放按钮，我们可以听到音频并查看相应的文本。浏览训练和测试集的样本，以更好地了解我们正在处理的音频和文本数据。
从语调和风格上可以看出，录音来自叙述性言语。您可能会注意到每条数据的发言者和录音质量的有很大不同，这是众筹数据的一个共同特征。`,Gt,Q,fe="数据集预览是在开始大规模使用之前感性认知音频数据集的绝佳方式。您可以选择 Hub 上的任何数据集，浏览样本并播放不同子集的音频，评估它是否适合您的需求。选择了一个数据集后，加载数据并开始使用就非常简单了。",Jt,X,me="目前我个人不会说迪维希语，而且估计绝大多数读者也不会！为了知道我们微调后的模型是否有效，我们需要一种严格的方法来<strong>评估</strong>它对未见过的数据的转写准确性。我们将在下一节中详细介绍这一点！",zt,O,It,tt,St;return c=new be({props:{containerStyle:"float: right; margin-left: 10px; display: inline-flex; position: relative; z-index: 10;"}}),v=new C({props:{title:"选择数据集",local:"选择数据集",headingTag:"h1"}}),_=new C({props:{title:"语音数据集的特征",local:"语音数据集的特征",headingTag:"h2"}}),w=new C({props:{title:"1. 小时数",local:"1-小时数",headingTag:"h3"}}),T=new C({props:{title:"2. 领域",local:"2-领域",headingTag:"h3"}}),L=new C({props:{title:"3. 说话风格",local:"3-说话风格",headingTag:"h3"}}),k=new ue({props:{code:"JUUyJTgwJTlDQ29uc2lkZXIlMjB0aGUlMjB0YXNrJTIwb2YlMjB0cmFpbmluZyUyMGElMjBtb2RlbCUyMG9uJTIwYSUyMHNwZWVjaCUyMHJlY29nbml0aW9uJTIwZGF0YXNldCVFMiU4MCU5RA==",highlighted:'“Consider <span class="hljs-keyword">the</span> task <span class="hljs-keyword">of</span> training <span class="hljs-keyword">a</span> model <span class="hljs-keyword">on</span> <span class="hljs-title">a</span> <span class="hljs-title">speech</span> <span class="hljs-title">recognition</span> <span class="hljs-title">dataset</span>”',wrap:!1}}),V=new ue({props:{code:"JUUyJTgwJTlDTGV0J3MlMjB1aGglMjBsZXQncyUyMHRha2UlMjBhJTIwbG9vayUyMGF0JTIwaG93JTIweW91J2QlMjBnbyUyMGFib3V0JTIwdHJhaW5pbmclMjBhJTIwbW9kZWwlMjBvbiUyMHVobSUyMGElMjBzcC0lMjBzcGVlY2glMjByZWNvZ25pdGlvbiUyMGRhdGFzZXQlRTIlODAlOUQ=",highlighted:'“<span class="hljs-keyword">Let</span><span class="hljs-comment">&#x27;s uhh let&#x27;s take a look at how you&#x27;d go about training a model on uhm a sp- speech recognition dataset”</span>',wrap:!1}}),G=new C({props:{title:"4. 转写风格",local:"4-转写风格",headingTag:"h3"}}),z=new C({props:{title:"Hub 上数据集的汇总",local:"hub-上数据集的汇总",headingTag:"h2"}}),F=new C({props:{title:"Common Voice 13",local:"common-voice-13",headingTag:"h2"}}),O=new _e({props:{source:"https://github.com/huggingface/audio-transformers-course/blob/main/chapters/zh-CN/chapter5/choosing_dataset.mdx"}}),{c(){$=a("meta"),et=d(),K=a("p"),lt=d(),p(c.$$.fragment),nt=d(),p(v.$$.fragment),dt=d(),x=a("p"),x.textContent=Dt,it=d(),b=a("p"),b.textContent=At,at=d(),p(_.$$.fragment),st=d(),p(w.$$.fragment),ot=d(),M=a("p"),M.innerHTML=Ft,pt=d(),p(T.$$.fragment),ft=d(),y=a("p"),y.textContent=Nt,mt=d(),H=a("p"),H.textContent=Wt,ht=d(),p(L.$$.fragment),ut=d(),j=a("p"),j.textContent=Zt,rt=d(),P=a("ul"),P.innerHTML=qt,$t=d(),U=a("p"),U.textContent=Rt,gt=d(),p(k.$$.fragment),Ct=d(),B=a("p"),B.textContent=Qt,ct=d(),p(V.$$.fragment),vt=d(),p(G.$$.fragment),xt=d(),J=a("p"),J.textContent=Xt,bt=d(),p(z.$$.fragment),_t=d(),I=a("p"),I.textContent=Ot,wt=d(),S=a("table"),S.innerHTML=Kt,Mt=d(),Y=a("p"),Y.textContent=te,Tt=d(),E=a("table"),E.innerHTML=ee,yt=d(),D=a("p"),D.innerHTML=le,Ht=d(),A=a("p"),A.textContent=ne,Lt=d(),p(F.$$.fragment),jt=d(),N=a("p"),N.textContent=de,Pt=d(),W=a("p"),W.innerHTML=ie,Ut=d(),Z=a("p"),Z.innerHTML=ae,kt=d(),q=a("p"),q.innerHTML=se,Bt=d(),g=a("div"),g.innerHTML=oe,Vt=d(),R=a("p"),R.textContent=pe,Gt=d(),Q=a("p"),Q.textContent=fe,Jt=d(),X=a("p"),X.innerHTML=me,zt=d(),p(O.$$.fragment),It=d(),tt=a("p"),this.h()},l(t){const e=ve("svelte-u9bgzb",document.head);$=s(e,"META",{name:!0,content:!0}),e.forEach(l),et=i(t),K=s(t,"P",{}),he(K).forEach(l),lt=i(t),f(c.$$.fragment,t),nt=i(t),f(v.$$.fragment,t),dt=i(t),x=s(t,"P",{"data-svelte-h":!0}),o(x)!=="svelte-1h26w8s"&&(x.textContent=Dt),it=i(t),b=s(t,"P",{"data-svelte-h":!0}),o(b)!=="svelte-1ebh22n"&&(b.textContent=At),at=i(t),f(_.$$.fragment,t),st=i(t),f(w.$$.fragment,t),ot=i(t),M=s(t,"P",{"data-svelte-h":!0}),o(M)!=="svelte-n0vzfo"&&(M.innerHTML=Ft),pt=i(t),f(T.$$.fragment,t),ft=i(t),y=s(t,"P",{"data-svelte-h":!0}),o(y)!=="svelte-rgpvyq"&&(y.textContent=Nt),mt=i(t),H=s(t,"P",{"data-svelte-h":!0}),o(H)!=="svelte-rml00t"&&(H.textContent=Wt),ht=i(t),f(L.$$.fragment,t),ut=i(t),j=s(t,"P",{"data-svelte-h":!0}),o(j)!=="svelte-15a0n7w"&&(j.textContent=Zt),rt=i(t),P=s(t,"UL",{"data-svelte-h":!0}),o(P)!=="svelte-1iyzyed"&&(P.innerHTML=qt),$t=i(t),U=s(t,"P",{"data-svelte-h":!0}),o(U)!=="svelte-11qo5uv"&&(U.textContent=Rt),gt=i(t),f(k.$$.fragment,t),Ct=i(t),B=s(t,"P",{"data-svelte-h":!0}),o(B)!=="svelte-1djpnz9"&&(B.textContent=Qt),ct=i(t),f(V.$$.fragment,t),vt=i(t),f(G.$$.fragment,t),xt=i(t),J=s(t,"P",{"data-svelte-h":!0}),o(J)!=="svelte-s68ixk"&&(J.textContent=Xt),bt=i(t),f(z.$$.fragment,t),_t=i(t),I=s(t,"P",{"data-svelte-h":!0}),o(I)!=="svelte-fx9fqu"&&(I.textContent=Ot),wt=i(t),S=s(t,"TABLE",{"data-svelte-h":!0}),o(S)!=="svelte-16oif2l"&&(S.innerHTML=Kt),Mt=i(t),Y=s(t,"P",{"data-svelte-h":!0}),o(Y)!=="svelte-we3q66"&&(Y.textContent=te),Tt=i(t),E=s(t,"TABLE",{"data-svelte-h":!0}),o(E)!=="svelte-18br8ac"&&(E.innerHTML=ee),yt=i(t),D=s(t,"P",{"data-svelte-h":!0}),o(D)!=="svelte-1cgtrqi"&&(D.innerHTML=le),Ht=i(t),A=s(t,"P",{"data-svelte-h":!0}),o(A)!=="svelte-5oo8nf"&&(A.textContent=ne),Lt=i(t),f(F.$$.fragment,t),jt=i(t),N=s(t,"P",{"data-svelte-h":!0}),o(N)!=="svelte-94bnrz"&&(N.textContent=de),Pt=i(t),W=s(t,"P",{"data-svelte-h":!0}),o(W)!=="svelte-a3mcoj"&&(W.innerHTML=ie),Ut=i(t),Z=s(t,"P",{"data-svelte-h":!0}),o(Z)!=="svelte-qipy6a"&&(Z.innerHTML=ae),kt=i(t),q=s(t,"P",{"data-svelte-h":!0}),o(q)!=="svelte-ijp8il"&&(q.innerHTML=se),Bt=i(t),g=s(t,"DIV",{class:!0,"data-svelte-h":!0}),o(g)!=="svelte-nvj3zd"&&(g.innerHTML=oe),Vt=i(t),R=s(t,"P",{"data-svelte-h":!0}),o(R)!=="svelte-1qeb6kv"&&(R.textContent=pe),Gt=i(t),Q=s(t,"P",{"data-svelte-h":!0}),o(Q)!=="svelte-1efafdo"&&(Q.textContent=fe),Jt=i(t),X=s(t,"P",{"data-svelte-h":!0}),o(X)!=="svelte-6hl32e"&&(X.innerHTML=me),zt=i(t),f(O.$$.fragment,t),It=i(t),tt=s(t,"P",{}),he(tt).forEach(l),this.h()},h(){Yt($,"name","hf:doc:metadata"),Yt($,"content",Me),Yt(g,"class","flex justify-center")},m(t,e){xe(document.head,$),n(t,et,e),n(t,K,e),n(t,lt,e),m(c,t,e),n(t,nt,e),m(v,t,e),n(t,dt,e),n(t,x,e),n(t,it,e),n(t,b,e),n(t,at,e),m(_,t,e),n(t,st,e),m(w,t,e),n(t,ot,e),n(t,M,e),n(t,pt,e),m(T,t,e),n(t,ft,e),n(t,y,e),n(t,mt,e),n(t,H,e),n(t,ht,e),m(L,t,e),n(t,ut,e),n(t,j,e),n(t,rt,e),n(t,P,e),n(t,$t,e),n(t,U,e),n(t,gt,e),m(k,t,e),n(t,Ct,e),n(t,B,e),n(t,ct,e),m(V,t,e),n(t,vt,e),m(G,t,e),n(t,xt,e),n(t,J,e),n(t,bt,e),m(z,t,e),n(t,_t,e),n(t,I,e),n(t,wt,e),n(t,S,e),n(t,Mt,e),n(t,Y,e),n(t,Tt,e),n(t,E,e),n(t,yt,e),n(t,D,e),n(t,Ht,e),n(t,A,e),n(t,Lt,e),m(F,t,e),n(t,jt,e),n(t,N,e),n(t,Pt,e),n(t,W,e),n(t,Ut,e),n(t,Z,e),n(t,kt,e),n(t,q,e),n(t,Bt,e),n(t,g,e),n(t,Vt,e),n(t,R,e),n(t,Gt,e),n(t,Q,e),n(t,Jt,e),n(t,X,e),n(t,zt,e),m(O,t,e),n(t,It,e),n(t,tt,e),St=!0},p:$e,i(t){St||(h(c.$$.fragment,t),h(v.$$.fragment,t),h(_.$$.fragment,t),h(w.$$.fragment,t),h(T.$$.fragment,t),h(L.$$.fragment,t),h(k.$$.fragment,t),h(V.$$.fragment,t),h(G.$$.fragment,t),h(z.$$.fragment,t),h(F.$$.fragment,t),h(O.$$.fragment,t),St=!0)},o(t){u(c.$$.fragment,t),u(v.$$.fragment,t),u(_.$$.fragment,t),u(w.$$.fragment,t),u(T.$$.fragment,t),u(L.$$.fragment,t),u(k.$$.fragment,t),u(V.$$.fragment,t),u(G.$$.fragment,t),u(z.$$.fragment,t),u(F.$$.fragment,t),u(O.$$.fragment,t),St=!1},d(t){t&&(l(et),l(K),l(lt),l(nt),l(dt),l(x),l(it),l(b),l(at),l(st),l(ot),l(M),l(pt),l(ft),l(y),l(mt),l(H),l(ht),l(ut),l(j),l(rt),l(P),l($t),l(U),l(gt),l(Ct),l(B),l(ct),l(vt),l(xt),l(J),l(bt),l(_t),l(I),l(wt),l(S),l(Mt),l(Y),l(Tt),l(E),l(yt),l(D),l(Ht),l(A),l(Lt),l(jt),l(N),l(Pt),l(W),l(Ut),l(Z),l(kt),l(q),l(Bt),l(g),l(Vt),l(R),l(Gt),l(Q),l(Jt),l(X),l(zt),l(It),l(tt)),l($),r(c,t),r(v,t),r(_,t),r(w,t),r(T,t),r(L,t),r(k,t),r(V,t),r(G,t),r(z,t),r(F,t),r(O,t)}}}const Me='{"title":"选择数据集","local":"选择数据集","sections":[{"title":"语音数据集的特征","local":"语音数据集的特征","sections":[{"title":"1. 小时数","local":"1-小时数","sections":[],"depth":3},{"title":"2. 领域","local":"2-领域","sections":[],"depth":3},{"title":"3. 说话风格","local":"3-说话风格","sections":[],"depth":3},{"title":"4. 转写风格","local":"4-转写风格","sections":[],"depth":3}],"depth":2},{"title":"Hub 上数据集的汇总","local":"hub-上数据集的汇总","sections":[],"depth":2},{"title":"Common Voice 13","local":"common-voice-13","sections":[],"depth":2}],"depth":1}';function Te(Et){return ge(()=>{new URLSearchParams(window.location.search).get("fw")}),[]}class Pe extends Ce{constructor($){super(),ce(this,$,Te,we,re,{})}}export{Pe as component};
