Struttura del corso
Introduzione alla Containerizzazione Accelerata da GPU
- Comprensione dell'uso della GPU nei flussi di lavoro del deep learning
- Come Docker supporta i carichi di lavoro basati su GPU
- Considerazioni chiave sulle prestazioni
Installazione e Configurazione del Toolkit Container NVIDIA
- Configurazione dei driver e della compatibilità CUDA
- Validazione dell'accesso GPU all'interno dei container
- Configurazione dell'ambiente di runtime
Creazione di Immagini Docker Abilitate per GPU
- Utilizzo delle immagini base CUDA
- Packaging dei framework AI in container pronti per GPU
- Gestione delle dipendenze per l'addestramento e l'inferenza
Esecuzione di Carichi di Lavoro AI Accelerati da GPU
- Esecuzione di lavori di addestramento utilizzando GPU
- Gestione dei carichi di lavoro multi-GPU
- Monitoraggio dell'utilizzo della GPU
Ottimizzazione delle Prestazioni e dell'Allocazione delle Risorse
- Limitazione e isolamento delle risorse GPU
- Ottimizzazione della memoria, delle dimensioni del batch e della posizionamento dei dispositivi
- Tuning delle prestazioni e diagnostica
Inferenza Containerizzata e Distribuzione di Modelli
- Creazione di container pronti per l'inferenza
- Gestione di carichi di lavoro ad alto carico su GPU
- Integrazione dei runner e delle API dei modelli
Scalabilità dei Carichi di Lavoro GPU con Docker
- Strategie per l'addestramento distribuito GPU
- Scalabilità di microservizi di inferenza
- Coordinazione di sistemi AI multi-container
Sicurezza e Affidabilità per Container Abilitati per GPU
- Garanzia di un accesso sicuro alla GPU in ambienti condivisi
- Rafforzamento delle immagini dei container
- Gestione degli aggiornamenti, delle versioni e della compatibilità
Riassunto e Passaggi Successivi
Requisiti
- Conoscenza dei fondamenti del deep learning
- Esperienza con Python e framework AI comuni
- Familiarità con concetti di base di containerizzazione
Pubblico Obiettivo
- Ingegneri di deep learning
- Team di ricerca e sviluppo
- Allenatori di modelli AI
Recensioni (5)
OC è nuovo per noi e abbiamo imparato molto, i laboratori erano eccellenti
sharkey dollie
Corso - OpenShift 4 for Administrators
Traduzione automatica
Molto informativa e concisa. Esercitazioni pratiche
Gil Matias - FINEOS
Corso - Introduction to Docker
Traduzione automatica
Laboratori e discussioni tecniche.
Dinesh Panchal - AXA XL
Corso - Advanced Docker
Traduzione automatica
Ha fornito una solida base per Docker e Kubernetes.
Stephen Dowdeswell - Global Knowledge Networks UK
Corso - Docker (introducing Kubernetes)
Traduzione automatica
Ho principalmente apprezzato le conoscenze del formatore.
- Inverso Gesellschaft fur innovative Versicherungssoftware mbH
Corso - Docker, Kubernetes and OpenShift for Developers
Traduzione automatica