Struttura del corso
Fondamenti dell'Implementazione Ibrida di AI
- Comprendere i modelli di deployment ibrido, cloud ed edge
- Caratteristiche dei workload AI e vincoli infrastrutturali
- Scelta della topologia di deployment più adatta
Containerizzazione dei Workload AI con Docker
- Costruzione di container per inferenza GPU e CPU
- Gestione di immagini sicure e registri
- Implementazione di ambienti riproducibili per l'AI
Distribuzione di Servizi AI in Ambienti Cloud
- Esecuzione dell'inferenza su AWS, Azure e GCP tramite Docker
- Provisioning del compute cloud per il model serving
- Sicurezza degli endpoint AI basati su cloud
Tecniche di Deployment Edge e On-Prem
- Esecuzione di AI su dispositivi IoT, gateway e microserver
- Runtime leggeri per ambienti edge
- Gestione della connettività intermittente e della persistenza locale
Reti Ibride e Connettività Sicura
- Tunneling sicuro tra edge e cloud
- Certificati, segreti e accesso basato su token
- Ottimizzazione delle prestazioni per inferenza a bassa latenza
Orchestrazione delle Distribuzioni AI Distribuite
- Utilizzo di K3s, K8s o orchestrazione leggera per configurazioni ibride
- Scoperta dei servizi e pianificazione dei workload
- Automazione delle strategie di rollout multi-sito
Monitoraggio e Osservabilità tra Ambienti
- Monitoraggio delle prestazioni di inferenza tra diverse ubicazioni
- Logging centralizzato per sistemi AI ibridi
- Rilevamento dei guasti e recupero automatico
Scalabilità e Ottimizzazione dei Sistemi AI Ibridi
- Scalabilità di cluster edge e nodi cloud
- Ottimizzazione dell'utilizzo della banda e della cache
- Bilanciamento del carico di calcolo tra cloud ed edge
Sintesi e Prossimi Passi
Requisiti
- Comprensione dei concetti di containerizzazione
- Esperienza con le operazioni di riga di comando Linux
- Conoscenza dei flussi di lavoro per la distribuzione di modelli AI
Target
- Architetti infrastrutturali
- Site Reliability Engineers (SRE)
- Sviluppatori per Edge e IoT
Recensioni (2)
Come ho già detto, per una persona come me (senza esperienza), questo è stato un punto di partenza per comprendere le funzionalità e le caratteristiche di questi programmi, strumenti e quant'altro.
Patrick V. Duylovski - UBB + DZI (KBC GROUP)
Corso - Docker and Kubernetes
Traduzione automatica
un programma di corsi strutturato su più livelli.
Bert Paelinckx - Cube SoftwareSolutions
Corso - Introduction to Docker
Traduzione automatica