Pytorch
TensorFlow

#
End-of-chapter quiz

Testați-vă cunoștințele din acest capitol!

###
1. Dataset-ul emotion conține mesaje de pe Twitter etichetate cu emoții. Căutați-l în Hub și citiți descrierea dataset-ului. Care dintre acestea nu este una dintre emoțiile sale de bază?

Bucurie Iubire Confuzie Surpriză

###
2. Căutați dataset-ul ar_sarcasm în Hub . Ce tip de sarcină suportă?

Clasificarea sentimentelor Traducere automată (Machine translation) Named entity recognition Răspuns la întrebări (Question answering)

###
3. Cum se așteaptă modelul BERT ca o pereche de propoziții să fie procesată?

Tokens_of_sentence_1 [SEP] Tokens_of_sentence_2 [CLS] Tokens_of_sentence_1 Tokens_of_sentence_2 [CLS] Tokens_of_sentence_1 [SEP] Tokens_of_sentence_2 [SEP] [CLS] Tokens_of_sentence_1 [SEP] Tokens_of_sentence_2

###
4. Care sunt avantajele metodei Dataset.map() ?

Rezultatele funcției sunt memorate în cache, astfel încât nu va dura nimic dacă reexecutăm codul. Poate aplica multiprocessing pentru a rula mai rapid decât aplicând funcția pe fiecare element din dataset. Nu încarcă întregul set de date în memorie, salvând rezultatele de îndată ce este procesat un element.

###
5. Ce înseamnă umplerea dinamică (dynamic padding)?

E atunci când împachetezi intrările pentru fiecare batch la lungimea maximă din întregul dataset. E atunci când împachetezi intrările în momentul creării batch-ului, la lungimea maximă a propozițiilor din acel batch. E atunci când împachetezi intrările astfel încât fiecare propoziție să aibă același număr de tokeni ca precedenta în dataset.

###
6. Care este scopul unei funcții de „collate”?

Asigură că toate secvențele din setul de date au aceeași lungime. Reunește toate eșantioanele într-un batch. Preprocesează întregul set de date. Trunchiază secvențele din setul de date.

###
7. Ce se întâmplă când instanțiați una dintre clasele AutoModelForXxx cu un model de limbaj preantrenat (cum ar fi bert-base-uncased ), care corespunde unei alte sarcini decât cea pentru care a fost antrenat?

Nimic, dar primești un avertisment. Head-ul modelului preantrenat este eliminat, iar în locul lui este inserat un head nou, potrivit pentru sarcină. Head-ul modelului preantrenat este eliminat. Nimic, pentru că modelul poate fi ajustat fin (fine-tuned) chiar și pentru o altă sarcină.

###
8. Care este scopul folosirii TrainingArguments ?

Conține toți hiperparametrii folosiți pentru antrenare și evaluare cu `Trainer`. Specifică dimensiunea modelului. Conține doar hiperparametrii folosiți pentru evaluare. Conține doar hiperparametrii folosiți pentru antrenare.

###
9. De ce ar trebui să folosiți biblioteca 🤗 Accelerate?

Oferă acces la modele mai rapide. Oferă o API la nivel înalt, astfel încât să nu fie nevoie să implementați propria buclă de antrenament. Face ca buclele noastre de antrenament să funcționeze pe strategii distribuite. Oferă mai multe funcții de optimizare.
< > Update on GitHub