Contattataci

Struttura del corso

Introduzione alle problematiche del fine-tuning

  • Cenni sul processo di fine-tuning
  • Problematiche frequentemente riscontrate nel fine-tuning di modelli di grandi dimensioni
  • L’effetto della qualità dei dati e delle tecniche di preprocessamento

Gestione degli squilibri nei dati

  • Identificazione e analisi degli squilibri nei set di dati
  • Tecniche per affrontare situazioni di bilanciamento non ottimale dei dati
  • Utilizzo dell’aumentazione dei dati e della generazione di dati sintetici

Gestione del sovraadattamento e sottoadattamento

  • Comprensione delle cause e dei meccanismi del sovraadattamento e sottoadattamento
  • Tecniche di regolarizzazione: L1, L2 e dropout
  • Adeguamento della complessità del modello e della durata dell’addestramento

Miglioramento della convergenza del modello

  • Individuazione dei problemi legati alla convergenza del modello
  • Scelta adeguata del tasso di apprendimento e dell’ottimizzatore
  • Implementazione di programmi per la regolazione dinamica del tasso di apprendimento e di tecniche di warm-up

Debuggare i processi di fine-tuning

  • Strumenti utili al monitoraggio dei cicli di addestramento
  • Registrazione e visualizzazione delle metriche del modello
  • Risoluzione degli errori generati durante l’addestramento

Ottimizzazione dell’efficienza dell’addestramento

  • Scegliere la dimensione ottimale dei batch e adottare tecniche di accumulo del gradiente
  • Utilizzo della precisione mista nell’addestramento dei modelli
  • Implementazione dell’addestramento distribuito per modelli su larga scala

Casi pratici e studio di problemi reali nel fine-tuning

  • Caso d’uso: Fine-tuning finalizzato all’analisi del sentiment negli testi
  • Caso d’uso: Risoluzione dei problemi di convergenza in sistemi di classificazione delle immagini
  • Caso d’uso: Affrontare il sovraadattamento nei processi di riassunto automatico del testo

Sintesi e prospettive future

Requisiti

  • Esperienza con framework di deep learning come PyTorch o TensorFlow
  • Conoscenza dei concetti fondamentali dell’apprendimento automatico, tra cui addestramento, validazione ed valutazione del modello
  • Familiarità con le tecniche di fine-tuning applicate a modelli pre-addestrati

Destinatari

  • Data scientist
  • Ingegneri AI
 14 ore

Numero di Partecipanti


Prezzo per partecipante

Corsi in Arrivo

Categorie relative