Corso di formazione Tecniche di Fine-Tuning Parametricamente Efficiente (PEFT) per LLM

Introduzione al Parameter-Efficient Fine-Tuning (PEFT)

• Motivazioni e limiti del fine-tuning completo
• Panoramica sul PEFT: obiettivi e vantaggi
• Applicazioni e casi d'uso nel settore industriale

LoRA (Low-Rank Adaptation)

• Concetto e intuizione alla base di LoRA
• Implementazione di LoRA utilizzando Hugging Face e PyTorch
• Esercitazione pratica: Fine-tuning di un modello con LoRA

Adapter Tuning

• Funzionamento dei moduli adapter
• Integrazione con i modelli basati su transformer
• Esercitazione pratica: Applicazione dell'Adapter Tuning a un modello transformer

Prefix Tuning

• Utilizzo di soft prompt per il fine-tuning
• Punti di forza e limiti rispetto a LoRA e adapter
• Esercitazione pratica: Prefix Tuning su un task LLM

Valutazione e Confronto dei Metodi PEFT

• Metriche per valutare prestazioni ed efficienza
• Compromessi in termini di velocità di addestramento, utilizzo della memoria e accuratezza
• Sperimentazioni di benchmarking e interpretazione dei risultati

Distribuzione dei Modelli Fine-Tunati

• Salvataggio e caricamento dei modelli fine-tunati
• Considerazioni per la distribuzione di modelli basati su PEFT
• Integrazione in applicazioni e pipeline

Best Practices ed Estensioni

• Combinazione di PEFT con quantizzazione e distillazione
• Utilizzo in contesti a risorse limitate e multilingue
• Direzioni future e aree di ricerca attive