Struttura del corso
Introduzione alla Containerizzazione Accelerata da GPU
- Comprensione dell'uso della GPU nei flussi di lavoro del deep learning
- Come Docker supporta i carichi di lavoro basati su GPU
- Considerazioni chiave sulle prestazioni
Installazione e Configurazione del Toolkit Container NVIDIA
- Configurazione dei driver e della compatibilità CUDA
- Validazione dell'accesso GPU all'interno dei container
- Configurazione dell'ambiente di runtime
Creazione di Immagini Docker Abilitate per GPU
- Utilizzo delle immagini base CUDA
- Packaging dei framework AI in container pronti per GPU
- Gestione delle dipendenze per l'addestramento e l'inferenza
Esecuzione di Carichi di Lavoro AI Accelerati da GPU
- Esecuzione di lavori di addestramento utilizzando GPU
- Gestione dei carichi di lavoro multi-GPU
- Monitoraggio dell'utilizzo della GPU
Ottimizzazione delle Prestazioni e dell'Allocazione delle Risorse
- Limitazione e isolamento delle risorse GPU
- Ottimizzazione della memoria, delle dimensioni del batch e della posizionamento dei dispositivi
- Tuning delle prestazioni e diagnostica
Inferenza Containerizzata e Distribuzione di Modelli
- Creazione di container pronti per l'inferenza
- Gestione di carichi di lavoro ad alto carico su GPU
- Integrazione dei runner e delle API dei modelli
Scalabilità dei Carichi di Lavoro GPU con Docker
- Strategie per l'addestramento distribuito GPU
- Scalabilità di microservizi di inferenza
- Coordinazione di sistemi AI multi-container
Sicurezza e Affidabilità per Container Abilitati per GPU
- Garanzia di un accesso sicuro alla GPU in ambienti condivisi
- Rafforzamento delle immagini dei container
- Gestione degli aggiornamenti, delle versioni e della compatibilità
Riassunto e Passaggi Successivi
Requisiti
- Conoscenza dei fondamenti del deep learning
- Esperienza con Python e framework AI comuni
- Familiarità con concetti di base di containerizzazione
Pubblico Obiettivo
- Ingegneri di deep learning
- Team di ricerca e sviluppo
- Allenatori di modelli AI
Recensioni (5)
OC is new to us and we learnt alot and the labs were excellent
sharkey dollie
Corso - OpenShift 4 for Administrators
Very informative and to the point. Hands on pratice
Gil Matias - FINEOS
Corso - Introduction to Docker
Labs and technical discussions.
Dinesh Panchal - AXA XL
Corso - Advanced Docker
It gave a good grounding for Docker and Kubernetes.
Stephen Dowdeswell - Global Knowledge Networks UK
Corso - Docker (introducing Kubernetes)
I mostly enjoyed the knowledge of the trainer.