Thank you for sending your enquiry! One of our team members will contact you shortly.
Thank you for sending your booking! One of our team members will contact you shortly.
Struttura del corso
Introduzione allo Sviluppo di Operatori Personalizzati
- Perché creare operatori personalizzati? Casistiche e vincoli
- Struttura runtime CANN e punti di integrazione degli operatori
- Panoramica di TBE, TIK e TVM nell'ecosistema AI di Huawei
Utilizzo del TIK per Operatori a Basso Livello Programming
- Comprendere il modello di programmazione TIK e le API supportate
- Gestione della memoria e strategia di tiling nel TIK
- Creare, compilare ed registrare un operatore personalizzato con CANN
Test e Validazione degli Operatori Personalizzati
- Testing unitario e di integrazione degli operatori nel grafo
- Debug delle problematiche di prestazioni al livello del kernel
- Visualizzazione dell'esecuzione degli operatori e del comportamento dei buffer
Pianificazione e Ottimizzazione basate su TVM
- Panoramica di TVM come compilatore per operazioni tensoriali
- Scrivere un piano di schedulazione per un operatore personalizzato in TVM
- Ottimizzazione TVM, benchmarking e generazione del codice per Ascend
Integrazione con Frameworks e Modelli
- Registrazione di operatori personalizzati per MindSpore e ONNX
- Verifica dell'integrità del modello e del comportamento di fallback
- Supporto a grafi multi-operatori con precisione mista
Studi di Caso e Ottimizzazioni Specializzate
- Studio di caso: convoluzione ad alta efficienza per forme di input piccole
- Studio di caso: ottimizzazione dell'operatore di attenzione consapevole della memoria
- Migliori pratiche nella distribuzione degli operatori personalizzati su dispositivi
Sintesi e Prossimi Passaggi
Requisiti
- Conoscenza approfondita degli interni dei modelli AI e del calcolo a livello di operatore
- Esperienza con gli ambienti di sviluppo Python e Linux
- Familiarità con compilatori di reti neurali o ottimizzatori a livello di grafo
Pubblico
- Ingegneri compilatore che lavorano su catene di strumenti AI
- Sviluppatori di sistemi focalizzati sull'ottimizzazione a livello basso per l'AI
- Sviluppatori che creano operatori personalizzati o mirano a carichi di lavoro AI innovativi
14 ore