Struttura del corso
Introduzione alla containerizzazione con accelerazione GPU
- Comprendere l'utilizzo delle GPU nei flussi di lavoro di deep learning
- Come Docker supporta i carichi di lavoro basati su GPU
- Considerazioni chiave sulle prestazioni
Installazione e configurazione del NVIDIA Container Toolkit
- Impostazione dei driver e della compatibilità CUDA
- Validazione dell'accesso alla GPU all'interno dei contenitori
- Configurazione dell'ambiente runtime
Creazione di immagini Docker abilitate alla GPU
- Utilizzo di immagini base CUDA
- Pacchettizzazione dei framework AI in contenitori pronti per la GPU
- Gestione delle dipendenze per addestramento e inferenza
Esecuzione di carichi di lavoro AI con accelerazione GPU
- Esecuzione di job di addestramento utilizzando le GPU
- Gestione di carichi di lavoro multi-GPU
- Monitoraggio dell'utilizzo della GPU
Ottimizzazione delle prestazioni e dell'allocazione delle risorse
- Limitazione e isolamento delle risorse GPU
- Ottimizzazione della memoria, delle dimensioni dei batch e del posizionamento dei dispositivi
- Sintonizzazione delle prestazioni e diagnostica
Inferenza e servizio di modelli containerizzati
- Creazione di contenitori pronti per l'inferenza
- Servizio di carichi di lavoro intensivi su GPU
- Integrazione di runner di modelli e API
Scalabilità dei carichi di lavoro GPU con Docker
- Strategie per l'addestramento distribuito su GPU
- Scalabilità dei microservizi di inferenza
- Coordinamento di sistemi AI multi-contenitore
Sicurezza e affidabilità per contenitori abilitati alla GPU
- Garantire un accesso sicuro alla GPU in ambienti condivisi
- Rinforzo delle immagini dei contenitori
- Gestione di aggiornamenti, versioni e compatibilità
Sintesi e prossimi passi
Requisiti
- Conoscenza delle nozioni fondamentali del deep learning
- Esperienza con Python e comuni framework AI
- Familiarità con i concetti base della containerizzazione
Target di Riferimento
- Ingegneri di deep learning
- Team di ricerca e sviluppo
- Addestratori di modelli AI
Recensioni (3)
Come i formatori trasmettono efficacemente le conoscenze
Vu Thoai Le - Reply Polska sp. z o. o.
Corso - Certified Kubernetes Administrator (CKA) - exam preparation
Traduzione automatica
il formatore aveva molta conoscenza e pazienza da condividere con noi
Bogdan Olaru
Corso - Introduction to Docker
Traduzione automatica
La conoscenza e gli scambi con Augustin
Laurent - L'Office national des vacances annuelles (ONVA)
Corso - Docker and Kubernetes
Traduzione automatica