Thank you for sending your enquiry! One of our team members will contact you shortly.
Thank you for sending your booking! One of our team members will contact you shortly.
Struttura del corso
Introduzione alla distribuzione di produzione
- Sfide chiave nell'implementazione di modelli ottimizzati
- Differenze tra ambienti di sviluppo e di produzione
- Strumenti e piattaforme per la distribuzione dei modelli
Preparazione dei modelli per la distribuzione
- Esportazione di modelli in formati standard (ONNX, TensorFlow SavedModel, ecc.)
- Ottimizzazione dei modelli per latenza e velocità effettiva
- Test di modelli su casi limite e dati del mondo reale
Containerizzazione per la distribuzione di modelli
- Introduzione a Docker
- Creazione di Docker immagini per i modelli ML
- Best practice per la sicurezza e l'efficienza dei container
Scalabilità delle distribuzioni con Kubernetes
- Introduzione a Kubernetes per i carichi di lavoro di intelligenza artificiale
- Configurazione di Kubernetes cluster per l'hosting di modelli
- Bilanciamento del carico e scalabilità orizzontale
Monitoraggio e manutenzione dei modelli
- Implementazione del monitoraggio con Prometheus e Grafana
- Registrazione automatica per il monitoraggio degli errori e delle prestazioni
- Ripetizione del training delle pipeline per la deviazione e gli aggiornamenti del modello
Garantire la sicurezza nella produzione
- Protezione delle API per l'inferenza del modello
- Meccanismi di autenticazione e autorizzazione
- Affrontare i problemi di privacy dei dati
Casi di studio e laboratori pratici
- Distribuzione di un modello di analisi del sentiment
- Scalabilità di un servizio di traduzione automatica
- Implementazione del monitoraggio per i modelli di classificazione delle immagini
Riepilogo e passaggi successivi
Requisiti
- Solida comprensione dei flussi di lavoro di machine learning
- Esperienza con la messa a punto dei modelli ML
- Familiarità con i principi DevOps o MLOps
Pubblico
- DevOps ingegneri
- MLOps Praticanti
- Specialisti dell'implementazione dell'intelligenza artificiale
21 ore
Recensioni (1)
Ci sono stati molti esercizi pratici supervisionati e assistiti dal formatore
Aleksandra - Fundacja PTA
Corso - Mastering Make: Advanced Workflow Automation and Optimization
Traduzione automatica