Contattataci

Struttura del corso

Introduzione all’ottimizzazione dei modelli di grandi dimensioni

  • Panoramica sulle architetture dei modelli di grandi dimensioni
  • Principali sfide nell’addestramento mirato di tali modelli
  • Importanza dell’ottimizzazione in termini di costi e risorse

Tecniche di addestramento distribuito

  • Introduzione al parallelismo dati e del modello
  • Framework utilizzabili per l’addestramento distribuito: PyTorch e TensorFlow
  • Scalabilità su più GPU e nodi computazionali

Quantizzazione dei modelli e riduzione strutturale

  • Nozioni di base sulla quantizzazione dei modelli
  • Riduzione delle dimensioni del modello tramite tecniche specifiche
  • Equilibrio tra accuratezza predittiva ed efficienza computazionale

Ottimizzazione hardware

  • Selezione dell’hardware più idoneo per l’addestramento mirato
  • Ottimizzazione del rendimento di GPU e TPU
  • Utilizzo di acceleratori specializzati nel contesto dei modelli di grandi dimensioni

Gestione efficiente dei dati

  • Strategie per gestire insiemi di dati su larga scala
  • Pre-elaborazione e raggruppamento delle informazioni per migliorare le prestazioni
  • Tecniche di aumentazione dei dati utili durante l’addestramento<\/li>

Implementazione dei modelli ottimizzati

  • Metodi per distribuire efficacemente i modelli addestrati
  • Sorveglianza e manutenzione delle prestazioni del modello
  • Esempi concreti di implementazione di modelli ottimizzati in contesti reali

Tecniche avanzate di ottimizzazione

  • Analisi dell’adattamento a basso rango (LoRA)
  • Ricorso ad “adapter” per un addestramento modulare dei modelli
  • Tendenze future nell’ottimizzazione dei modelli di apprendimento automatico

Sintesi e prossimi passi

Requisiti

  • Esperienza con framework di apprendimento profondo come PyTorch o TensorFlow
  • Familiarità con i modelli linguistici di grandi dimensioni e le loro applicazioni
  • Conoscenza dei concetti legati al calcolo distribuito

Destinatari

  • Ingegneri specializzati in apprendimento automatico
  • Specialisti di intelligenza artificiale nel cloud
 21 ore

Numero di Partecipanti


Prezzo per partecipante

Corsi in Arrivo

Categorie relative