Contattataci

Struttura del corso

Introduzione alla containerizzazione con accelerazione GPU

  • Comprendere l'utilizzo delle GPU nei flussi di lavoro di deep learning
  • Come Docker supporta i carichi di lavoro basati su GPU
  • Considerazioni chiave sulle prestazioni

Installazione e configurazione del NVIDIA Container Toolkit

  • Impostazione dei driver e della compatibilità CUDA
  • Validazione dell'accesso alla GPU all'interno dei contenitori
  • Configurazione dell'ambiente runtime

Creazione di immagini Docker abilitate alla GPU

  • Utilizzo di immagini base CUDA
  • Pacchettizzazione dei framework AI in contenitori pronti per la GPU
  • Gestione delle dipendenze per addestramento e inferenza

Esecuzione di carichi di lavoro AI con accelerazione GPU

  • Esecuzione di job di addestramento utilizzando le GPU
  • Gestione di carichi di lavoro multi-GPU
  • Monitoraggio dell'utilizzo della GPU

Ottimizzazione delle prestazioni e dell'allocazione delle risorse

  • Limitazione e isolamento delle risorse GPU
  • Ottimizzazione della memoria, delle dimensioni dei batch e del posizionamento dei dispositivi
  • Sintonizzazione delle prestazioni e diagnostica

Inferenza e servizio di modelli containerizzati

  • Creazione di contenitori pronti per l'inferenza
  • Servizio di carichi di lavoro intensivi su GPU
  • Integrazione di runner di modelli e API

Scalabilità dei carichi di lavoro GPU con Docker

  • Strategie per l'addestramento distribuito su GPU
  • Scalabilità dei microservizi di inferenza
  • Coordinamento di sistemi AI multi-contenitore

Sicurezza e affidabilità per contenitori abilitati alla GPU

  • Garantire un accesso sicuro alla GPU in ambienti condivisi
  • Rinforzo delle immagini dei contenitori
  • Gestione di aggiornamenti, versioni e compatibilità

Sintesi e prossimi passi

Requisiti

  • Conoscenza delle nozioni fondamentali del deep learning
  • Esperienza con Python e comuni framework AI
  • Familiarità con i concetti base della containerizzazione

Target di Riferimento

  • Ingegneri di deep learning
  • Team di ricerca e sviluppo
  • Addestratori di modelli AI
 21 ore

Numero di Partecipanti


Prezzo per partecipante

Recensioni (3)

Corsi in Arrivo

Categorie relative