Struttura del corso
Introduzione alla Containerizzazione Accelerata da GPU
- Comprendere l'uso delle GPU nei flussi di lavoro di deep learning
- Come Docker supporta i carichi di lavoro basati su GPU
- Principali considerazioni sulle prestazioni
Installazione e Configurazione di NVIDIA Container Toolkit
- Configurazione dei driver e della compatibilità CUDA
- Validazione dell'accesso alla GPU all'interno dei contenitori
- Configurazione dell'ambiente di runtime
Creazione di Immagini Docker Abilitate per GPU
- Utilizzo di immagini base CUDA
- Pacchettizzazione di framework AI in contenitori pronti per GPU
- Gestione delle dipendenze per addestramento e inferenza
Esecuzione di Carichi di Lavoro AI Accelerati da GPU
- Esecuzione di job di addestramento utilizzando le GPU
- Gestione di carichi di lavoro multi-GPU
- Monitoraggio dell'utilizzo delle GPU
Ottimizzazione delle Prestazioni e delle Risorse
- Limitazione e isolamento delle risorse GPU
- Ottimizzazione della memoria, delle dimensioni dei batch e del posizionamento dei dispositivi
- Regolazione delle prestazioni e diagnostica
Inferenza Containerizzata e Serving dei Modelli
- Creazione di contenitori pronti per l'inferenza
- Serving di carichi di lavoro ad alta intensità su GPU
- Integrazione di esecutori di modelli e API
Scalabilità dei Carichi di Lavoro GPU con Docker
- Strategie per l'addestramento distribuito su GPU
- Scalabilità dei microservizi di inferenza
- Coordinamento di sistemi AI multi-contenitore
Sicurezza e Affidabilità per Contenitori Abilitati da GPU
- Garantire un accesso sicuro alla GPU in ambienti condivisi
- Rafforzamento delle immagini dei contenitori
- Gestione di aggiornamenti, versioni e compatibilità
Riepilogo e Prossimi Passi
Requisiti
- Conoscenza delle fondamenta del deep learning
- Esperienza con Python e comuni framework per l'AI
- Familiarità con i concetti di base di containerizzazione
Target
- Ingegneri di deep learning
- Team di ricerca e sviluppo
- Addestratori di modelli AI
Recensioni (2)
Come ho già detto, per una persona come me (senza esperienza), questo è stato un punto di partenza per comprendere le funzionalità e le caratteristiche di questi programmi, strumenti e quant'altro.
Patrick V. Duylovski - UBB + DZI (KBC GROUP)
Corso - Docker and Kubernetes
Traduzione automatica
un programma di corsi strutturato su più livelli.
Bert Paelinckx - Cube SoftwareSolutions
Corso - Introduction to Docker
Traduzione automatica
