Struttura del corso

Introduzione allo Sviluppo di Operatori Personalizzati

  • Perché creare operatori personalizzati? Casistiche e vincoli
  • Struttura runtime CANN e punti di integrazione degli operatori
  • Panoramica di TBE, TIK e TVM nell'ecosistema AI di Huawei

Utilizzo del TIK per Operatori a Basso Livello Programming

  • Comprendere il modello di programmazione TIK e le API supportate
  • Gestione della memoria e strategia di tiling nel TIK
  • Creare, compilare ed registrare un operatore personalizzato con CANN

Test e Validazione degli Operatori Personalizzati

  • Testing unitario e di integrazione degli operatori nel grafo
  • Debug delle problematiche di prestazioni al livello del kernel
  • Visualizzazione dell'esecuzione degli operatori e del comportamento dei buffer

Pianificazione e Ottimizzazione basate su TVM

  • Panoramica di TVM come compilatore per operazioni tensoriali
  • Scrivere un piano di schedulazione per un operatore personalizzato in TVM
  • Ottimizzazione TVM, benchmarking e generazione del codice per Ascend

Integrazione con Frameworks e Modelli

  • Registrazione di operatori personalizzati per MindSpore e ONNX
  • Verifica dell'integrità del modello e del comportamento di fallback
  • Supporto a grafi multi-operatori con precisione mista

Studi di Caso e Ottimizzazioni Specializzate

  • Studio di caso: convoluzione ad alta efficienza per forme di input piccole
  • Studio di caso: ottimizzazione dell'operatore di attenzione consapevole della memoria
  • Migliori pratiche nella distribuzione degli operatori personalizzati su dispositivi

Sintesi e Prossimi Passaggi

Requisiti

  • Conoscenza approfondita degli interni dei modelli AI e del calcolo a livello di operatore
  • Esperienza con gli ambienti di sviluppo Python e Linux
  • Familiarità con compilatori di reti neurali o ottimizzatori a livello di grafo

Pubblico

  • Ingegneri compilatore che lavorano su catene di strumenti AI
  • Sviluppatori di sistemi focalizzati sull'ottimizzazione a livello basso per l'AI
  • Sviluppatori che creano operatori personalizzati o mirano a carichi di lavoro AI innovativi
 14 ore

Numero di Partecipanti


Prezzo per Partecipante

Corsi in Arrivo

Categorie relative