import{s as fe,o as $e}from"../chunks/scheduler.cd324960.js";import{S as me,i as re,e as p,s as l,c as u,h as ae,a as f,d as s,b as i,f as pe,g as o,j as r,k as dt,l as ue,m as n,n as T,t as v,o as x,p as C,q as Wt,r as yt}from"../chunks/index.d5c3adcc.js";import{T as kt}from"../chunks/Tip.889bec11.js";import{C as oe,H as Et,E as Te}from"../chunks/MermaidChart.svelte_svelte_type_style_lang.145cba0d.js";function ve(_){let $;return{c(){$=Wt("💡 Обычно в таких seq2seq-моделях в качестве входных данных используются спектрограммы. Однако модель seq2seq может быть разработана и для работы непосредственно с формой волны звука.")},l(m){$=yt(m,"💡 Обычно в таких seq2seq-моделях в качестве входных данных используются спектрограммы. Однако модель seq2seq может быть разработана и для работы непосредственно с формой волны звука.")},m(m,a){n(m,$,a)},d(m){m&&s($)}}}function xe(_){let $;return{c(){$=Wt(`💡 В то время как модель CTC выводит последовательность отдельных символов, токены, предсказываемые Whisper, представляют собой полные слова или фрагменты слов. Он использует токенизатор из GPT-2 и имеет 50k+ уникальных токенов. Поэтому модель seq2seq может выдать гораздо более короткую
последовательность, чем модель CTC для той же транскрипции.`)},l(m){$=yt(m,`💡 В то время как модель CTC выводит последовательность отдельных символов, токены, предсказываемые Whisper, представляют собой полные слова или фрагменты слов. Он использует токенизатор из GPT-2 и имеет 50k+ уникальных токенов. Поэтому модель seq2seq может выдать гораздо более короткую
последовательность, чем модель CTC для той же транскрипции.`)},m(m,a){n(m,$,a)},d(m){m&&s($)}}}function Ce(_){let $;return{c(){$=Wt(`💡 Напомним, что спектрограмма создается путем взятия частотного спектра последовательных временных отрезков звуковой волны и их суммирования. Другими словами, спектрограмма - это последовательность, элементами которой являются (лог-мел) частотные спектры, по одному на каждый временной
интервал.`)},l(m){$=yt(m,`💡 Напомним, что спектрограмма создается путем взятия частотного спектра последовательных временных отрезков звуковой волны и их суммирования. Другими словами, спектрограмма - это последовательность, элементами которой являются (лог-мел) частотные спектры, по одному на каждый временной
интервал.`)},m(m,a){n(m,$,a)},d(m){m&&s($)}}}function _e(_){let $,m,a,X,h,Y,H,Z,P,zt=`В моделях CTC, рассмотренных в предыдущем разделе, использовалась только энкодерная часть архитектуры трансформера. В случае, когда мы добавляем декодер для создания модели энкодер-декодер, это называется моделью <strong>последовательность-в-последовательность (sequence-to-sequence)</strong> или
сокращенно seq2seq. Модель сопоставляет последовательность данных одного вида с последовательностью данных другого вида.`,tt,w,Ot=`В моделях трансформеров, использующих только энкодер, энкодер делал предсказание для каждого элемента входной последовательности. Поэтому и входная, и выходная последовательности всегда будут иметь одинаковую длину. В случае моделей CTC, таких как Wav2Vec2, входная форма сигнала сначала
подвергалась даунсемплингу, но все равно на каждые 20 мс звука приходилось одно предсказание.`,et,S,jt=`В модели seq2seq такого соответствия один к одному нет, и входная и выходная последовательности могут иметь разную длину. Это делает модели seq2seq пригодными для решения задач NLP, таких как резюмирование текста или перевод с одного языка на другой, а также для решения аудио задач, таких
как распознавание речи.`,st,b,At=`Архитектура декодера очень похожа на архитектуру энкодера, и в обоих случаях используются схожие слои, главной особенностью которых является самовнимание. Однако декодер выполняет иную задачу, чем энкодер. Чтобы понять, как это работает, рассмотрим, как модель seq2seq может выполнять
автоматическое распознавание речи.`,nt,d,lt,E,Rt='Архитектура <strong>Whisper</strong> выглядит следующим образом (рисунок любезно предоставлен <a href="https://openai.com/blog/whisper/" rel="nofollow">блогом OpenAI Whisper</a>):',it,q,Gt='<img src="https://huggingface.co/blog/assets/111_fine_tune_whisper/whisper_architecture.svg" alt="Whisper is a transformer encoder-decoder model"/>',pt,k,It=`Все это должно выглядеть довольно знакомо. Слева находится <strong>энкодер трансформера</strong>. В качестве входного сигнала принимается лог-мел спектрограмма, которая кодируется для формирования последовательности скрытых состояний энкодера, извлекающих важные признаки из произносимой речи.
Этот тензор скрытых состояний представляет входную последовательность как единое целое и эффективно кодирует “смысл” поступившей на вход речи.`,ft,g,$t,W,Vt="Затем выход энкодера передается в <strong>декодер трансформера</strong>, показанный справа, с помощью механизма, называемого <strong>перекрёстным вниманием (cross-attention)</strong>. Это похоже на самовнимание (self-attention), но внимание направлено на выход энкодера. С этого момента энкодер больше не нужен.",mt,y,Dt=`Декодер предсказывает последовательность текстовых токенов <strong>авторегрессивным</strong> способом, по одному токену за раз, начиная с начальной последовательности, в которой есть только “стартовый” токен (<code>SOT</code> в случае Whisper). На каждом следующем временном интервале предыдущая выходная
последовательность подается обратно в декодер в качестве новой входной последовательности. Таким образом, декодер выдает по одному новому токену за раз, неуклонно наращивая выходную последовательность, пока не спрогнозирует “конечный” токен или не будет достигнуто максимальное количество
временных шагов.`,rt,z,Nt="Хотя архитектура декодера в основном идентична архитектуре кодера, есть два существенных отличия:",at,O,Ut="<li>декодер имеет механизм перекрестного внимания, который позволяет ему просматривать представление энкодера о входной последовательности</li> <li>внимание декодера является каузальным - декодер не имеет права заглядывать в будущее.</li>",ut,j,Bt=`В этом случае декодер играет роль <strong>языковой модели</strong>, обрабатывая представления скрытых состояний, полученные от энкодера, и генерируя соответствующие текстовые транскрипции. Это более мощный подход, чем CTC, даже если модель CTC сочетается с внешней языковой моделью, так как система
seq2seq может быть обучена от начала до конца с использованием одних и тех же обучающих данных и функции потерь, что обеспечивает большую гибкость и в целом более высокую производительность.`,ot,L,Tt,A,Ft='Типичной функцией потерь для seq2seq ASR-модели является функция кросс-энтропии, поскольку последний слой модели предсказывает распределение вероятностей по возможным токенам. Обычно это сочетается с такими методами, как <a href="https://huggingface.co/blog/how-to-generate" rel="nofollow">лучевой поиск для генерации конечной последовательности</a>. Метрикой распознавания речи является WER или word error rate, которая измеряет, сколько замен, вставок и удалений необходимо для превращения предсказанного текста в целевой - чем меньше, тем лучше результат.',vt,R,xt,G,Jt=`Возможно, это вас не удивит: Модель seq2seq для TTS работает по сути так же, как и описанная выше, но входы и выходы поменяны местами! Энкодер трансформера принимает последовательность текстовых токенов и извлекает из нее последовательность скрытых состояний, которые представляют собой
входной текст. Декодер трансформера применяет перекрестное внимание к выходу энкодера и прогнозирует спектрограмму.`,Ct,M,_t,I,Kt=`В ASR-модели декодер запускался с помощью последовательности, содержащей только специальный токен “start”. Для модели TTS мы можем начать декодирование со спектрограммы длиной один, состоящей из одних нулей, которая выступает в качестве “стартового токена”. Учитывая эту начальную
спектрограмму и перекрестное внимание к представлениям скрытых состояний энкодера, декодер предсказывает следующий временной интервал для этой спектрограммы, постепенно увеличивая спектрограмму на один временной интервал.`,qt,c,Qt='<img src="https://huggingface.co/datasets/huggingface-course/audio-course-images/resolve/main/speecht5_decoding.png" alt="The audio waveform gets mapped to a shorter sequence of hidden-states"/>',gt,V,Xt=`Но как декодер узнает, когда нужно остановиться? В модели <strong>SpeechT5</strong> это решается тем, что декодер предсказывает вторую последовательность. Она содержит вероятность того, что текущий временной шаг является последним. При генерации звука в момент инференса, если эта вероятность превышает
определенный порог (скажем, 0,5), декодер сигнализирует о том, что спектрограмма закончена и цикл генерации должен завершиться.`,Lt,D,Yt="После завершения декодирования и получения выходной последовательности, содержащей спектрограмму, SpeechT5 использует так называемую <strong>пост-сеть (post-net)</strong>, состоящую из нескольких сверточных слоев, для уточнения спектрограммы.",Mt,N,Zt=`При обучении модели TTS в качестве целей также используются спектрограммы, а в качестве потерь - L1 или MSE. Во время инференса мы хотим преобразовать выходную спектрограмму в форму звукового сигнала, чтобы ее можно было прослушать. Для этого используется внешняя модель - <strong>вокодер
(vocoder)</strong>. Этот вокодер не является частью архитектуры seq2seq и обучается отдельно.`,ct,U,te=`Сложность TTS заключается в том, что это отображение “один-ко-многим”. При преобразовании речи в текст существует только один правильный выходной текст, соответствующий входной речи, в то время как при преобразовании текста в речь входной текст может быть сопоставлен с множеством возможных
звуков речи. Например, разные дикторы могут выбирать для акцентирования внимания разные части предложения. Это затрудняет оценку моделей TTS. В связи с этим значение потерь L1 или MSE на самом деле не имеет большого смысла - существует множество способов представить один и тот же текст на
спектрограмме. Именно поэтому модели TTS обычно оцениваются слушателями, используя метрику, известную как MOS (mean opinion score) или cредняя экспертная оценка.`,ht,B,Ht,F,ee="Подход seq2seq является более мощным, чем модель, основанная только на энкодере. Благодаря разделению входной последовательности энкодера и выходной последовательности декодера, выравнивание звука и текста становится менее проблематичным.",Pt,J,se=`Однако модель энкодер-декодер также является более медленной, поскольку процесс декодирования происходит по одному шагу за раз, а не все сразу. Чем длиннее последовательность, тем медленнее прогнозирование. Авторегрессивные модели также могут застревать на повторах или пропускать слова.
Такие методы, как лучевой поиск, позволяют улучшить качество прогнозов, но при этом еще больше замедляют декодирование.`,wt,K,St,Q,bt;return h=new oe({props:{containerStyle:"float: right; margin-left: 10px; display: inline-flex; position: relative; z-index: 10;"}}),H=new Et({props:{title:"Архитектуры Seq2Seq",local:"архитектуры-seq2seq",headingTag:"h1"}}),d=new Et({props:{title:"Автоматическое распознавание речи",local:"автоматическое-распознавание-речи",headingTag:"h2"}}),g=new kt({props:{$$slots:{default:[ve]},$$scope:{ctx:_}}}),L=new kt({props:{$$slots:{default:[xe]},$$scope:{ctx:_}}}),R=new Et({props:{title:"Преобразование текста в речь (Text-to-speech, TTS)",local:"преобразование-текста-в-речь-text-to-speech-tts",headingTag:"h2"}}),M=new kt({props:{$$slots:{default:[Ce]},$$scope:{ctx:_}}}),B=new Et({props:{title:"Заключение",local:"заключение",headingTag:"h2"}}),K=new Te({props:{source:"https://github.com/huggingface/audio-transformers-course/blob/main/chapters/ru/chapter3/seq2seq.mdx"}}),{c(){$=p("meta"),m=l(),a=p("p"),X=l(),u(h.$$.fragment),Y=l(),u(H.$$.fragment),Z=l(),P=p("p"),P.innerHTML=zt,tt=l(),w=p("p"),w.textContent=Ot,et=l(),S=p("p"),S.textContent=jt,st=l(),b=p("p"),b.textContent=At,nt=l(),u(d.$$.fragment),lt=l(),E=p("p"),E.innerHTML=Rt,it=l(),q=p("div"),q.innerHTML=Gt,pt=l(),k=p("p"),k.innerHTML=It,ft=l(),u(g.$$.fragment),$t=l(),W=p("p"),W.innerHTML=Vt,mt=l(),y=p("p"),y.innerHTML=Dt,rt=l(),z=p("p"),z.textContent=Nt,at=l(),O=p("ol"),O.innerHTML=Ut,ut=l(),j=p("p"),j.innerHTML=Bt,ot=l(),u(L.$$.fragment),Tt=l(),A=p("p"),A.innerHTML=Ft,vt=l(),u(R.$$.fragment),xt=l(),G=p("p"),G.textContent=Jt,Ct=l(),u(M.$$.fragment),_t=l(),I=p("p"),I.textContent=Kt,qt=l(),c=p("div"),c.innerHTML=Qt,gt=l(),V=p("p"),V.innerHTML=Xt,Lt=l(),D=p("p"),D.innerHTML=Yt,Mt=l(),N=p("p"),N.innerHTML=Zt,ct=l(),U=p("p"),U.textContent=te,ht=l(),u(B.$$.fragment),Ht=l(),F=p("p"),F.textContent=ee,Pt=l(),J=p("p"),J.textContent=se,wt=l(),u(K.$$.fragment),St=l(),Q=p("p"),this.h()},l(t){const e=ae("svelte-u9bgzb",document.head);$=f(e,"META",{name:!0,content:!0}),e.forEach(s),m=i(t),a=f(t,"P",{}),pe(a).forEach(s),X=i(t),o(h.$$.fragment,t),Y=i(t),o(H.$$.fragment,t),Z=i(t),P=f(t,"P",{"data-svelte-h":!0}),r(P)!=="svelte-77gopt"&&(P.innerHTML=zt),tt=i(t),w=f(t,"P",{"data-svelte-h":!0}),r(w)!=="svelte-13bmu7v"&&(w.textContent=Ot),et=i(t),S=f(t,"P",{"data-svelte-h":!0}),r(S)!=="svelte-13ap5qy"&&(S.textContent=jt),st=i(t),b=f(t,"P",{"data-svelte-h":!0}),r(b)!=="svelte-1dqkvdw"&&(b.textContent=At),nt=i(t),o(d.$$.fragment,t),lt=i(t),E=f(t,"P",{"data-svelte-h":!0}),r(E)!=="svelte-1x2wi5x"&&(E.innerHTML=Rt),it=i(t),q=f(t,"DIV",{class:!0,"data-svelte-h":!0}),r(q)!=="svelte-1402zsk"&&(q.innerHTML=Gt),pt=i(t),k=f(t,"P",{"data-svelte-h":!0}),r(k)!=="svelte-9h7yrt"&&(k.innerHTML=It),ft=i(t),o(g.$$.fragment,t),$t=i(t),W=f(t,"P",{"data-svelte-h":!0}),r(W)!=="svelte-1u7v0a3"&&(W.innerHTML=Vt),mt=i(t),y=f(t,"P",{"data-svelte-h":!0}),r(y)!=="svelte-5x6ahe"&&(y.innerHTML=Dt),rt=i(t),z=f(t,"P",{"data-svelte-h":!0}),r(z)!=="svelte-1b6r346"&&(z.textContent=Nt),at=i(t),O=f(t,"OL",{"data-svelte-h":!0}),r(O)!=="svelte-15f10dx"&&(O.innerHTML=Ut),ut=i(t),j=f(t,"P",{"data-svelte-h":!0}),r(j)!=="svelte-fcv13f"&&(j.innerHTML=Bt),ot=i(t),o(L.$$.fragment,t),Tt=i(t),A=f(t,"P",{"data-svelte-h":!0}),r(A)!=="svelte-1tbdwnz"&&(A.innerHTML=Ft),vt=i(t),o(R.$$.fragment,t),xt=i(t),G=f(t,"P",{"data-svelte-h":!0}),r(G)!=="svelte-14ozf6c"&&(G.textContent=Jt),Ct=i(t),o(M.$$.fragment,t),_t=i(t),I=f(t,"P",{"data-svelte-h":!0}),r(I)!=="svelte-1jhnk8b"&&(I.textContent=Kt),qt=i(t),c=f(t,"DIV",{class:!0,"data-svelte-h":!0}),r(c)!=="svelte-1886deo"&&(c.innerHTML=Qt),gt=i(t),V=f(t,"P",{"data-svelte-h":!0}),r(V)!=="svelte-1m378te"&&(V.innerHTML=Xt),Lt=i(t),D=f(t,"P",{"data-svelte-h":!0}),r(D)!=="svelte-1fb951v"&&(D.innerHTML=Yt),Mt=i(t),N=f(t,"P",{"data-svelte-h":!0}),r(N)!=="svelte-11gubu3"&&(N.innerHTML=Zt),ct=i(t),U=f(t,"P",{"data-svelte-h":!0}),r(U)!=="svelte-pombak"&&(U.textContent=te),ht=i(t),o(B.$$.fragment,t),Ht=i(t),F=f(t,"P",{"data-svelte-h":!0}),r(F)!=="svelte-fi5f1b"&&(F.textContent=ee),Pt=i(t),J=f(t,"P",{"data-svelte-h":!0}),r(J)!=="svelte-seukyg"&&(J.textContent=se),wt=i(t),o(K.$$.fragment,t),St=i(t),Q=f(t,"P",{}),pe(Q).forEach(s),this.h()},h(){dt($,"name","hf:doc:metadata"),dt($,"content",qe),dt(q,"class","flex justify-center"),dt(c,"class","flex justify-center")},m(t,e){ue(document.head,$),n(t,m,e),n(t,a,e),n(t,X,e),T(h,t,e),n(t,Y,e),T(H,t,e),n(t,Z,e),n(t,P,e),n(t,tt,e),n(t,w,e),n(t,et,e),n(t,S,e),n(t,st,e),n(t,b,e),n(t,nt,e),T(d,t,e),n(t,lt,e),n(t,E,e),n(t,it,e),n(t,q,e),n(t,pt,e),n(t,k,e),n(t,ft,e),T(g,t,e),n(t,$t,e),n(t,W,e),n(t,mt,e),n(t,y,e),n(t,rt,e),n(t,z,e),n(t,at,e),n(t,O,e),n(t,ut,e),n(t,j,e),n(t,ot,e),T(L,t,e),n(t,Tt,e),n(t,A,e),n(t,vt,e),T(R,t,e),n(t,xt,e),n(t,G,e),n(t,Ct,e),T(M,t,e),n(t,_t,e),n(t,I,e),n(t,qt,e),n(t,c,e),n(t,gt,e),n(t,V,e),n(t,Lt,e),n(t,D,e),n(t,Mt,e),n(t,N,e),n(t,ct,e),n(t,U,e),n(t,ht,e),T(B,t,e),n(t,Ht,e),n(t,F,e),n(t,Pt,e),n(t,J,e),n(t,wt,e),T(K,t,e),n(t,St,e),n(t,Q,e),bt=!0},p(t,[e]){const ne={};e&2&&(ne.$$scope={dirty:e,ctx:t}),g.$set(ne);const le={};e&2&&(le.$$scope={dirty:e,ctx:t}),L.$set(le);const ie={};e&2&&(ie.$$scope={dirty:e,ctx:t}),M.$set(ie)},i(t){bt||(v(h.$$.fragment,t),v(H.$$.fragment,t),v(d.$$.fragment,t),v(g.$$.fragment,t),v(L.$$.fragment,t),v(R.$$.fragment,t),v(M.$$.fragment,t),v(B.$$.fragment,t),v(K.$$.fragment,t),bt=!0)},o(t){x(h.$$.fragment,t),x(H.$$.fragment,t),x(d.$$.fragment,t),x(g.$$.fragment,t),x(L.$$.fragment,t),x(R.$$.fragment,t),x(M.$$.fragment,t),x(B.$$.fragment,t),x(K.$$.fragment,t),bt=!1},d(t){t&&(s(m),s(a),s(X),s(Y),s(Z),s(P),s(tt),s(w),s(et),s(S),s(st),s(b),s(nt),s(lt),s(E),s(it),s(q),s(pt),s(k),s(ft),s($t),s(W),s(mt),s(y),s(rt),s(z),s(at),s(O),s(ut),s(j),s(ot),s(Tt),s(A),s(vt),s(xt),s(G),s(Ct),s(_t),s(I),s(qt),s(c),s(gt),s(V),s(Lt),s(D),s(Mt),s(N),s(ct),s(U),s(ht),s(Ht),s(F),s(Pt),s(J),s(wt),s(St),s(Q)),s($),C(h,t),C(H,t),C(d,t),C(g,t),C(L,t),C(R,t),C(M,t),C(B,t),C(K,t)}}}const qe='{"title":"Архитектуры Seq2Seq","local":"архитектуры-seq2seq","sections":[{"title":"Автоматическое распознавание речи","local":"автоматическое-распознавание-речи","sections":[],"depth":2},{"title":"Преобразование текста в речь (Text-to-speech, TTS)","local":"преобразование-текста-в-речь-text-to-speech-tts","sections":[],"depth":2},{"title":"Заключение","local":"заключение","sections":[],"depth":2}],"depth":1}';function ge(_){return $e(()=>{new URLSearchParams(window.location.search).get("fw")}),[]}class He extends me{constructor($){super(),re(this,$,ge,_e,fe,{})}}export{He as component};
