Struttura del corso
Fondamenti del Dipartimento dell'IA Ibrida
- Comprensione dei modelli di dipartimento ibrido, cloud ed edge
- Caratteristiche dei carichi di lavoro IA e vincoli infrastrutturali
- Scelta della topologia di dipartimento più adatta
Containerizzazione dei Carichi di Lavoro IA con Docker
- Creazione di container di inferenza GPU e CPU
- Gestione sicura di immagini e registri
- Implementazione di ambienti riproducibili per l'IA
Distribuzione dei Servizi IA su Ambienti Cloud
- Esecuzione dell'inferenza su AWS, Azure e GCP tramite Docker
- Provisioning di risorse computazionali cloud per il deployment di modelli
- Sicurezza degli endpoint IA basati su cloud
Tecniche di Dipartimento Edge e On-Premise
- Esecuzione dell'IA su dispositivi IoT, gateway e microserver
- Runtime leggeri per ambienti edge
- Gestione della connettività intermittente e persistenza locale
Rete Ibrida e Connettività Sicura
- Tunneling sicuro tra edge e cloud
- Certificati, segreti e accesso basato su token
- Ottimizzazione delle prestazioni per inferenza a bassa latenza
Orchestrazione dei Dipartimenti IA Distribuiti
- Utilizzo di K3s, K8s o orchestrazione leggera per setup ibridi
- Scoperta servizi e pianificazione carichi di lavoro
- Automazione delle strategie di rollout multi-sede
Monitoraggio e Osservabilità tra Ambienti
- Tracciamento delle prestazioni dell'inferenza su diverse sedi
- Logging centralizzato per sistemi IA ibridi
- Rilevamento guasti e recupero automatizzato
Scalabilità e Ottimizzazione dei Sistemi IA Ibridi
- Scalabilità di cluster edge e nodi cloud
- Ottimizzazione dell'utilizzo della banda e caching
- Bilanciamento dei carichi computazionali tra cloud ed edge
Riepilogo e Prossimi Passi
Requisiti
- Conoscenza dei concetti di containerizzazione
- Esperienza con le operazioni a riga di comando Linux
- Conoscenza dei flussi di lavoro di distribuzione dei modelli IA
Destinatari
- Architetti infrastrutturali
- Ingegneri SRE (Site Reliability Engineers)
- Sviluppatori Edge e IoT
Recensioni (3)
Come i formatori trasmettono efficacemente le conoscenze
Vu Thoai Le - Reply Polska sp. z o. o.
Corso - Certified Kubernetes Administrator (CKA) - exam preparation
Traduzione automatica
il formatore aveva molta conoscenza e pazienza da condividere con noi
Bogdan Olaru
Corso - Introduction to Docker
Traduzione automatica
La conoscenza e gli scambi con Augustin
Laurent - L'Office national des vacances annuelles (ONVA)
Corso - Docker and Kubernetes
Traduzione automatica