Grazie per aver inviato la tua richiesta! Uno dei nostri team membri ti contatterà a breve.
Grazie per aver inviato il tuo prenotazione! Uno dei nostri team membri ti contatterà a breve.
Struttura del corso
Introduzione allo Sviluppo di Operatori Personalizzati
- Perché creare operatori personalizzati? Casistiche e vincoli
- Struttura runtime CANN e punti di integrazione degli operatori
- Panoramica di TBE, TIK e TVM nell'ecosistema AI di Huawei
Utilizzo del TIK per Operatori a Basso Livello Programming
- Comprendere il modello di programmazione TIK e le API supportate
- Gestione della memoria e strategia di tiling nel TIK
- Creare, compilare ed registrare un operatore personalizzato con CANN
Test e Validazione degli Operatori Personalizzati
- Testing unitario e di integrazione degli operatori nel grafo
- Debug delle problematiche di prestazioni al livello del kernel
- Visualizzazione dell'esecuzione degli operatori e del comportamento dei buffer
Pianificazione e Ottimizzazione basate su TVM
- Panoramica di TVM come compilatore per operazioni tensoriali
- Scrivere un piano di schedulazione per un operatore personalizzato in TVM
- Ottimizzazione TVM, benchmarking e generazione del codice per Ascend
Integrazione con Frameworks e Modelli
- Registrazione di operatori personalizzati per MindSpore e ONNX
- Verifica dell'integrità del modello e del comportamento di fallback
- Supporto a grafi multi-operatori con precisione mista
Studi di Caso e Ottimizzazioni Specializzate
- Studio di caso: convoluzione ad alta efficienza per forme di input piccole
- Studio di caso: ottimizzazione dell'operatore di attenzione consapevole della memoria
- Migliori pratiche nella distribuzione degli operatori personalizzati su dispositivi
Sintesi e Prossimi Passaggi
Requisiti
- Conoscenza approfondita degli interni dei modelli AI e del calcolo a livello di operatore
- Esperienza con gli ambienti di sviluppo Python e Linux
- Familiarità con compilatori di reti neurali o ottimizzatori a livello di grafo
Pubblico
- Ingegneri compilatore che lavorano su catene di strumenti AI
- Sviluppatori di sistemi focalizzati sull'ottimizzazione a livello basso per l'AI
- Sviluppatori che creano operatori personalizzati o mirano a carichi di lavoro AI innovativi
14 Ore