LLM Course documentation
Fine-tuning, Check!
Fine-tuning, Check!
A fost distractiv! În primele două capitole ați învățat despre modele și tokenizere, iar acum știți cum să le ajustați fin (fine-tune) pentru propriile date. Pentru a recapitula, în acest capitol ați:
- Ați învățat despre dataset-urile din Hub
- Ați învățat cum să încărcați și să preprocessați dataset-uri, inclusiv folosind împachetare dinamică (dynamic padding) și colatori
- Ați implementat propria ajustare fină (fine-tuning) și evaluare a unui model
- Ați implementat o buclă de antrenament la un nivel mai scăzut (lower-level)
- Ați folosit 🤗 Accelerate pentru a adapta cu ușurință bucla voastră de antrenament, astfel încât să funcționeze pentru mai multe GPU-uri sau TPU-uri