Corso di formazione Creazione di operatori AI personalizzati con CANN TIK e TVM

Introduzione allo sviluppo di operatori personalizzati

• Perché costruire operatori personalizzati? Casi d'uso e vincoli
• Struttura del runtime CANN e punti di integrazione degli operatori
• Panoramica di TBE, TIK e TVM nell'ecosistema AI di Huawei

Utilizzo di TIK per la programmazione di operatori a basso livello

• Comprensione del modello di programmazione TIK e delle API supportate
• Gestione della memoria e strategia di tiling in TIK
• Creazione, compilazione e registrazione di un operatore personalizzato con CANN

Test e validazione degli operatori personalizzati

• Unit testing e integration testing degli operatori nel grafo
• Debug delle prestazioni a livello di kernel
• Visualizzazione dell'esecuzione degli operatori e del comportamento dei buffer

Scheduling e ottimizzazione basati su TVM

• Panoramica di TVM come compilatore per operatori tensoriali
• Scrittura di uno schedule per un operatore personalizzato in TVM
• Tuning, benchmarking e code generation di TVM per Ascend

Integrazione con framework e modelli

• Registrazione di operatori personalizzati per MindSpore e ONNX
• Verifica dell'integrità del modello e del comportamento di fallback
• Supporto per grafi con più operatori a precisione mista

Studi di caso e ottimizzazioni specializzate

• Studio di caso: convoluzione ad alta efficienza per forme di input piccole
• Studio di caso: ottimizzazione dell'operatore di attenzione consapevole della memoria
• Best practice nell'implementazione di operatori personalizzati su diversi dispositivi

Riepilogo e prossimi passi