Contattataci

Struttura del corso

Introduzione a Huawei CloudMatrix

  • Ecosistema CloudMatrix e flusso di distribuzione
  • Modelli, formati e modalità di distribuzione supportati
  • Casi d'uso tipici e chipset supportati

Preparazione dei Modelli per la Distribuzione

  • Esportazione dei modelli dagli strumenti di addestramento (MindSpore, TensorFlow, PyTorch)
  • Utilizzo di ATC (Ascend Tensor Compiler) per la conversione dei formati
  • Modelli a forma statica vs dinamica

Distribuzione su CloudMatrix

  • Creazione del servizio e registrazione del modello
  • Distribuzione dei servizi di inferenza tramite UI o CLI
  • Routing, autenticazione e controllo degli accessi

Gestione delle Richieste di Inferenza

  • Flussi di inferenza batch vs tempo reale
  • Pipeline di pre-elaborazione e post-elaborazione dei dati
  • Chiamata dei servizi CloudMatrix da applicazioni esterne

Monitoraggio e Ottimizzazione delle Prestazioni

  • Log di distribuzione e tracciamento delle richieste
  • Scalabilità delle risorse e bilanciamento del carico
  • Ottimizzazione della latenza e del throughput

Integrazione con Strumenti Aziendali

  • Connessione di CloudMatrix con OBS e ModelArts
  • Utilizzo di workflow e versioning dei modelli
  • CI/CD per la distribuzione e il rollback dei modelli

Pipeline di Inferenza End-to-End

  • Distribuzione di una pipeline completa di classificazione delle immagini
  • Benchmarking e validazione della precisione
  • Simulazione di failover e alert di sistema

Riepilogo e Prossimi Passi

Requisiti

  • Conoscenza dei flussi di lavoro per l'addestramento dei modelli AI
  • Esperienza con framework ML basati su Python
  • Familiarità di base con i concetti di distribuzione cloud

Pubblico Obiettivo

  • Team di AI ops
  • Ingegneri di machine learning
  • Specialisti nella distribuzione cloud che lavorano con l'infrastruttura Huawei
 21 ore

Numero di Partecipanti


Prezzo per partecipante

Recensioni (2)

Corsi in Arrivo

Categorie relative