Struttura del corso

Introduzione a Edge AI e Ascend 310

  • Panoramica di Edge AI: tendenze, vincoli ed applicazioni
  • Architettura del chip Huawei Ascend 310 e toolchain supportato
  • Posizionamento di CANN all'interno dello stack di deploy AI edge

Preparazione e Conversione dei Modelli

  • Esportazione di modelli addestrati da TensorFlow, PyTorch e MindSpore
  • Utilizzo di ATC per convertire i modelli nel formato OM per dispositivi Ascend
  • Gestione delle operazioni non supportate e strategie di conversione leggere

Sviluppo di Pipeline Inference con AscendCL

  • Utilizzo dell'API AscendCL per eseguire modelli OM su Ascend 310
  • Preprocessing input/output, gestione della memoria e controllo del dispositivo
  • Deploy all'interno di contenitori embedded o ambienti runtime leggeri

Ottimizzazione per vincoli edge

  • Riduzione della dimensione del modello, tuning di precisione (FP16, INT8)
  • Utilizzo dello strumento CANN profiler per identificare i punti critici
  • Gestione della disposizione della memoria e streaming dei dati per le prestazioni

Deploy con MindSpore Lite

  • Utilizzo del runtime di MindSpore Lite per target mobile ed embedded
  • Confronto tra MindSpore Lite e la pipeline raw AscendCL
  • Packaging dei modelli di inferenza per il deploy specifico dispositivo

Scenari di Deploy Edge e Studi di Caso

  • Studio di caso: camera intelligente con modello di rilevamento degli oggetti su Ascend 310
  • Studio di caso: classificazione in tempo reale in un hub sensori IoT
  • Monitoraggio e aggiornamento dei modelli deployati all'edge

Riepilogo ed Azioni Successive

Requisiti

  • Esperienza nel sviluppo o nell'implementazione di modelli AI
  • Conoscenze di base sui sistemi embedded, Linux, e Python
  • Familiarità con i framework di deep learning come TensorFlow o PyTorch

Target

  • Sviluppatori di soluzioni IoT
  • Ingegneri AI embedded
  • Integrateurs di sistemi edge e specialisti dell'implementazione AI
 14 ore

Numero di Partecipanti


Prezzo per Partecipante

Corsi in Arrivo

Categorie relative