Struttura del corso
Fondamenti della Distribuzione AI Ibrida
- Comprensione dei modelli di distribuzione ibrida, cloud e edge
- Caratteristiche dei carichi di lavoro AI e vincoli infrastrutturali
- Scelta della topologia di distribuzione corretta
Conteniturizzazione di Carichi di Lavoro AI con Docker
- Creazione di contenitori di inferenza GPU e CPU
- Gestione di immagini sicure e registri
- Implementazione di ambienti riproducibili per AI
Distribuzione di Servizi AI in Ambienti Cloud
- Esecuzione di inferenze su AWS, Azure e GCP tramite Docker
- Provisioning del calcolo cloud per la servitù dei modelli
- Sicurezza degli endpoint AI basati sul cloud
Tecniche di Distribuzione Edge e On-Premise
- Esecuzione di AI su dispositivi IoT, gateway e microserver
- Runtime leggeri per ambienti edge
- Gestione della connettività intermittente e persistenza locale
Networking Ibrido e Connessione Sicura
- Tunneling sicuro tra edge e cloud
- Certificati, segreti e accesso basato su token
- Ottimizzazione delle prestazioni per inferenze a bassa latenza
Orchestrazione di Distribuzioni AI Distribuite
- Utilizzo di K3s, K8s o orchestrazione leggera per configurazioni ibride
- Scoperta dei servizi e scheduling del carico di lavoro
- Automazione delle strategie di rollout multi-locazione
Monitoraggio e Visibilità tra Ambienti
- Tracciamento delle prestazioni delle inferenze in diverse locazioni
- Logging centralizzato per sistemi AI ibridi
- Rilevamento di errori e ripristino automatico
Scalabilità e Ottimizzazione dei Sistemi AI Ibridi
- Scaling dei cluster edge e nodi cloud
- Ottimizzazione dell'uso della banda e del caching
- Bilanciamento dei carichi di calcolo tra cloud e edge
Riepilogo e Passi Successivi
Requisiti
- Comprensione dei concetti di conteniturizzazione
- Esperienza con le operazioni della riga di comando Linux
- Familiarità con i flussi di lavoro di distribuzione dei modelli AI
Pubblico Obiettivo
- Architetti dell'infrastruttura
- Ingegneri di Affidabilità del Sito (SRE)
- Sviluppatori Edge e IoT
Recensioni (5)
OC è nuovo per noi e abbiamo imparato molto, i laboratori erano eccellenti
sharkey dollie
Corso - OpenShift 4 for Administrators
Traduzione automatica
Molto informativa e concisa. Esercitazioni pratiche
Gil Matias - FINEOS
Corso - Introduction to Docker
Traduzione automatica
Laboratori e discussioni tecniche.
Dinesh Panchal - AXA XL
Corso - Advanced Docker
Traduzione automatica
Ha fornito una solida base per Docker e Kubernetes.
Stephen Dowdeswell - Global Knowledge Networks UK
Corso - Docker (introducing Kubernetes)
Traduzione automatica
Ho principalmente apprezzato le conoscenze del formatore.
- Inverso Gesellschaft fur innovative Versicherungssoftware mbH
Corso - Docker, Kubernetes and OpenShift for Developers
Traduzione automatica