Struttura del corso

Introduzione a Cambricon e Architettura MLU

  • Panoramica del portafoglio di chip AI di Cambricon
  • Architettura MLU e pipeline delle istruzioni
  • Tipi di modelli supportati e casi d'uso

Installazione della Catena di Sviluppo

  • Installazione di BANGPy e Neuware SDK
  • Configurazione dell'ambiente per Python e C++
  • Compatibilità del modello e preprocessing

Sviluppo Modelli con BANGPy

  • Gestione della struttura tensoriale e delle forme
  • Costruzione del grafo di calcolo
  • Supporto per operazioni personalizzate in BANGPy

Distribuzione con Neuware Runtime

  • Conversione e caricamento dei modelli
  • Controllo dell'esecuzione e inferenza
  • Pratiche di distribuzione su edge e data center

Ottimizzazione delle Prestazioni

  • Mappatura della memoria e tuning del livello
  • Rilevamento e profilazione dell'esecuzione
  • Punti di congestione comuni e soluzioni

Integrazione MLU nelle Applicazioni

  • Utilizzo delle API Neuware per l'integrazione applicativa
  • Supporto al flusso continuo e multi-modello
  • Sceenari di inferenza ibrida CPU-MLU

Progetto End-to-End e Use Case

  • Laboratorio: Distribuzione di un modello vision o NLP
  • Inferenza su edge con integrazione BANGPy
  • Test dell'accuratezza e della throughput

Riepilogo e Passi Successivi

Requisiti

  • Una comprensione delle strutture dei modelli di apprendimento automatico
  • Esperienza con Python e/o C++
  • Familiarità con i concetti di deploy e accelerazione dei modelli

Pubblico

  • Sviluppatori AI embedded
  • Ingegneri ML che effettuano il deploy su edge o datacenter
  • Sviluppatori che lavorano con l'infrastruttura AI cinese
 21 ore

Numero di Partecipanti


Prezzo per Partecipante

Corsi in Arrivo

Categorie relative