Grazie per aver inviato la tua richiesta! Uno dei nostri team membri ti contatterà a breve.
Grazie per aver inviato il tuo prenotazione! Uno dei nostri team membri ti contatterà a breve.
Struttura del corso
Introduzione all'inferenza AI con Docker
- Comprensione dei carichi di lavoro per l'inferenza AI.
- Vantaggi dell'inferenza containerizzata.
- Scenari e vincoli di deployment.
Costruzione di container per l'inferenza AI
- Selezione delle immagini base e dei framework.
- Pacchettizzazione di modelli pre-addestrati.
- Strutturazione del codice di inferenza per l'esecuzione nei container.
Miglioramento della sicurezza dei servizi AI containerizzati
- Minimizzazione della superficie di attacco dei container.
- Gestione dei segreti e dei file sensibili.
- Strategie sicure per il networking e l'esposizione delle API.
Tecniche di deployment portabile
- Ottimizzazione delle immagini per la portabilità.
- Garantire ambienti di esecuzione prevedibili.
- Gestione delle dipendenze tra diverse piattaforme.
Deployment locale e test
- Esecuzione dei servizi in locale con Docker.
- Debugging dei container di inferenza.
- Test delle prestazioni e dell'affidabilità.
Deployment su server e VM cloud
- Adattamento dei container per ambienti remoti.
- Configurazione dell'accesso sicuro al server.
- Deploy delle API di inferenza su VM cloud.
Utilizzo di Docker Compose per sistemi AI multi-servizio
- Orientamento dell'inferenza con componenti di supporto.
- Gestione delle variabili d'ambiente e delle configurazioni.
- Scalabilità dei microservizi con Compose.
Monitoraggio e manutenzione dei servizi di inferenza AI
- Approcci al logging e all'osservabilità.
- Rilevamento dei fallimenti nelle pipeline di inferenza.
- Aggiornamento e versioning dei modelli in produzione.
Sintesi e prossimi passi
Requisiti
- Conoscenza dei concetti base del machine learning.
- Esperienza con Python o sviluppo backend.
- Confidenza con i concetti fondamentali dei container.
Pubblico target
- Sviluppatori.
- Ingegneri backend.
- Team che effettuano il deployment di servizi AI.
14 ore
Recensioni (3)
Come i formatori trasmettono efficacemente le conoscenze
Vu Thoai Le - Reply Polska sp. z o. o.
Corso - Certified Kubernetes Administrator (CKA) - exam preparation
Traduzione automatica
il formatore aveva molta conoscenza e pazienza da condividere con noi
Bogdan Olaru
Corso - Introduction to Docker
Traduzione automatica
La conoscenza e gli scambi con Augustin
Laurent - L'Office national des vacances annuelles (ONVA)
Corso - Docker and Kubernetes
Traduzione automatica