Corso di formazione Inferenza e Deploy di AI con CloudMatrix
CloudMatrix è la piattaforma unificata di sviluppo e distribuzione AI di Huawei progettata per supportare pipeline di inferenza scalabili e di livello produttivo.
Questo addestramento guidato da un formatore (online o in presenza) è rivolto a professionisti AI di livello principiante a intermedio che desiderano distribuire e monitorare modelli AI utilizzando la piattaforma CloudMatrix con integrazione CANN e MindSpore.
Al termine di questo addestramento, i partecipanti saranno in grado di:
- Utilizzare CloudMatrix per il packaging, la distribuzione e il servizio del modello.
- Convertire e ottimizzare modelli per chipsets Ascend.
- Configurare pipeline per compiti di inferenza in tempo reale e a batch.
- Monitorare le distribuzioni e regolare le prestazioni nelle impostazioni di produzione.
Formato del Corso
- Lezione interattiva e discussione.
- Uso pratica di CloudMatrix con scenari reali di distribuzione.
- Esercizi guidati focalizzati su conversione, ottimizzazione e scalabilità.
Opzioni di Personalizzazione del Corso
- Per richiedere un addestramento personalizzato per questo corso basato sulla tua infrastruttura AI o ambiente cloud, contattaci per organizzare.
Struttura del corso
Introduzione a Huawei CloudMatrix
- Ecosistema e flusso di distribuzione di CloudMatrix
- Modelli, formati e modalità di distribuzione supportati
- Casistiche tipiche e chipsets supportati
Preparazione dei modelli per la distribuzione
- Esportazione del modello da strumenti di addestramento (MindSpore, TensorFlow, PyTorch)
- Uso di ATC (Ascend Tensor Compiler) per la conversione dei formati
- Modelli con forma statica vs dinamica
Distribuzione in CloudMatrix
- Creazione del servizio e registrazione del modello
- Distribuzione dei servizi di inferenza tramite interfaccia utente o CLI
- Routing, autenticazione e controllo degli accessi
Servizio delle richieste di inferenza
- Flussi di inferenza batch vs in tempo reale
- Pipeline di preprocessamento e postprocessamento dei dati
- Invocazione dei servizi CloudMatrix da applicazioni esterne
Monitoraggio e ottimizzazione delle prestazioni
- Log di distribuzione e tracciamento delle richieste
- Scalabilità dei risorse e bilanciamento del carico
- Ottimizzazione della latenza e dell'attraversamento
Integrazione con strumenti aziendali
- Connessione di CloudMatrix con OBS e ModelArts
- Uso dei flussi di lavoro e della versioning del modello
- CI/CD per la distribuzione e il rollback del modello
Pipeline end-to-end di inferenza
- Distribuzione di una pipeline completa di classificazione delle immagini
- Benchmarking e verifica dell'accuratezza
- Simulazione del failover e degli avvisi del sistema
Riepilogo e passaggi successivi
Requisiti
- Comprendere i flussi di lavoro per l'addestramento dei modelli AI
- Esperienza con framework ML basati su Python
- Familiarità di base con i concetti di deploy in cloud
Target dell'audience
- Team AI ops
- Ingegneri di machine learning
- Specialisti in deploy cloud che lavorano con infrastrutture Huawei
I corsi di formazione interaziendali richiedono più di 5 partecipanti.
Corso di formazione Inferenza e Deploy di AI con CloudMatrix - Booking
Corso di formazione Inferenza e Deploy di AI con CloudMatrix - Enquiry
Inferenza e Deploy di AI con CloudMatrix - Richiesta di consulenza
Richiesta di consulenza
Recensioni (1)
Formazione passo-passo con molti esercizi. È stato come un workshop e ne sono molto contento.
Ireneusz - Inter Cars S.A.
Corso - Intelligent Applications Fundamentals
Traduzione automatica
Corsi in Arrivo
Corsi relativi
Sviluppare Applicazioni AI con Huawei Ascend e CANN
21 oreHuawei Ascend è una famiglia di processori AI progettati per inferenza e formazione ad alte prestazioni.
Questo corso interattivo, guidato da un istruttore (online o sul posto), è rivolto a ingegneri AI intermedi e scienziati dei dati che desiderano sviluppare ed ottimizzare modelli di reti neurali utilizzando la piattaforma Ascend di Huawei e il toolkit CANN.
Al termine del corso, i partecipanti saranno in grado di:
- Configurare l'ambiente di sviluppo con il toolkit CANN.
- Sviluppare applicazioni AI utilizzando MindSpore e CloudMatrix workflows.
- Ottimizzare le prestazioni sugli NPUs Ascend mediante operatori personalizzati e tiling.
- Distribuire modelli in ambienti di bordo o cloud.
Formato del Corso
- Lezione interattiva e discussione.
- Uso pratica di Huawei Ascend e toolkit CANN in esempi applicativi.
- Esercizi guidati focalizzati sulla creazione, formazione e distribuzione del modello.
Opzioni di Personalizzazione del Corso
- Per richiedere un corso personalizzato basato sulla vostra infrastruttura o sui vostri dataset, contattateci per organizzare.
Deploying AI Models with CANN e Processori Ascend AI
14 oreCANN (Compute Architecture for Neural Networks) è lo stack di calcolo AI di Huawei per la distribuzione e l'ottimizzazione dei modelli AI sui processori Ascend.
Questo training live, guidato da un istruttore (online o su sito), è rivolto a sviluppatori ed ingegneri di livello intermedio che desiderano distribuire modelli AI addestrati in modo efficiente sulla hardware Huawei Ascend utilizzando lo strumento CANN e strumenti come MindSpore, TensorFlow, o PyTorch.
Al termine di questo training, i partecipanti saranno in grado di:
- Comprendere l'architettura CANN e il suo ruolo nella pipeline di distribuzione AI.
- Convertire ed adattare modelli da framework popolari a formati compatibili con Ascend.
- Usare strumenti come ATC, OM conversione del modello e MindSpore per inferenza edge e cloud.
- Diagnosare problemi di distribuzione ed ottimizzare le prestazioni su hardware Ascend.
Formato del Corso
- Lezione interattiva e dimostrativa.
- Laboratorio pratico utilizzando gli strumenti CANN e simulatori o dispositivi Ascend.
- Scenari di distribuzione pratica basati su modelli AI real-world.
Opzioni per la Personalizzazione del Corso
- Per richiedere una formazione personalizzata per questo corso, si prega di contattarci per organizzare.
AI Engineering Fondamenti
14 oreQuesto addestramento guidato dal formatore in Italia (online o sul posto) è rivolto a ingegneri AI di livello principiante a intermedio e sviluppatori software che desiderano acquisire una comprensione fondamentale dei principi e delle pratiche dell'ingegneria AI.
Al termine di questo addestramento, i partecipanti saranno in grado di:
- Comprendere i concetti e le tecnologie principali alle basi dell'IA e dell'apprendimento automatico.
- Implementare modelli di apprendimento automatico di base utilizzando TensorFlow e PyTorch.
- Applicare tecniche AI per risolvere problemi pratici nel sviluppo software.
- Gestire e mantenere progetti AI utilizzando le migliori pratiche nell'ingegneria AI.
- Riconoscere le implicazioni etiche e responsabilità coinvolte nello sviluppo di sistemi AI.
Costruire Intelligent Applications con IA e ML
28 oreQuesta formazione dal vivo con istruttore in Italia (online o in loco) è rivolta a professionisti dell'IA di livello intermedio e avanzato e
sviluppatori di software che desiderano creare applicazioni intelligenti utilizzando l'intelligenza artificiale e il machine learning.
Al termine di questa formazione, i partecipanti saranno in grado di:
- Comprendere i concetti e le tecnologie avanzate alla base dell'intelligenza artificiale e del machine learning.
- Analizza e visualizza i dati per informare lo sviluppo di modelli AI/ML.
- Crea, addestra e distribuisci modelli AI/ML in modo efficace.
- Crea applicazioni intelligenti in grado di risolvere i problemi del mondo reale.
- Valutare le implicazioni etiche delle applicazioni di IA in vari settori.
Introduzione a CANN per Sviluppatori di Framework AI
7 oreCANN (Architettura di Calcolo per Neural Networks) è il kit di strumenti Huawei per il calcolo AI utilizzato per compilare, ottimizzare e distribuire modelli AI sui processori Ascend AI.
Questo addestramento guidato dall'insegnante (online o in sede) si rivolge a sviluppatori AI di livello principiante che desiderano comprendere come CANN si integra nel ciclo di vita del modello, dalla formazione alla distribuzione, e come funziona con i framework come MindSpore, TensorFlow, e PyTorch.
Al termine di questo addestramento, i partecipanti saranno in grado di:
- Comprendere lo scopo e l'architettura del kit di strumenti CANN.
- Configurare un ambiente di sviluppo con CANN e MindSpore.
- Convertire e distribuire un semplice modello AI su hardware Ascend.
- Acquisire conoscenze fondamentali per futuri progetti di ottimizzazione o integrazione di CANN.
Formato del Corso
- Lezione interattiva e discussione.
- Laboratorio pratico con la distribuzione di semplici modelli.
- Guida passo-passo della catena strumentale CANN e dei punti di integrazione.
Opzioni per la Personalizzazione del Corso
- Per richiedere un addestramento personalizzato per questo corso, si prega di contattarci per organizzare l'evento.
CANN per Edge AI Deployment
14 oreLo strumento Huawei Ascend CANN abilita potenti inferenze AI sui dispositivi di bordo come l'Ascend 310. CANN fornisce strumenti essenziali per compilare, ottimizzare e distribuire modelli in ambienti con limitazioni di calcolo e memoria.
Questa formazione guidata dal formatore (online o sul posto) è rivolta a sviluppatori AI intermedi e integratori che desiderano distribuire ed ottimizzare modelli sui dispositivi di bordo Ascend utilizzando la catena degli strumenti CANN.
Al termine della formazione, i partecipanti saranno in grado di:
- Preparare e convertire modelli AI per l'Ascend 310 utilizzando gli strumenti CANN.
- Creare pipeline di inferenza leggere utilizzando MindSpore Lite e AscendCL.
- Ottimizzare le prestazioni del modello per ambienti limitati in termini di calcolo e memoria.
- Distribuire e monitorare applicazioni AI nelle situazioni reali di bordo.
Formato del corso
- Lezione interattiva e dimostrativa.
- Lavoro pratica con modelli specifici di bordo e scenari.
- Esempi viventi di distribuzione su hardware virtuale o fisico di bordo.
Opzioni di personalizzazione del corso
- Per richiedere una formazione personalizzata per questo corso, contattateci per organizzare l'incontro.
Comprendere la Pila di Calcolo AI di Huawei: Dal CANN a MindSpore
14 oreLo stack AI di Huawei — dal basso livello CANN SDK al alto livello MindSpore — offre un ambiente integrato per lo sviluppo e il deployment dell'IA ottimizzato per l'hardware Ascend.
Questo corso guidato da istruttore (online o in sito) è rivolto a professionisti tecnici di livello principiante a intermedio che desiderano comprendere come i componenti CANN e MindSpore lavorano insieme per supportare la gestione del ciclo di vita dell'IA e le decisioni di infrastruttura.
Al termine di questo corso, i partecipanti saranno in grado di:
- Comprendere l'architettura stratificata dello stack computazionale AI di Huawei.
- Identificare come CANN supporta l'ottimizzazione dei modelli e il deployment a livello hardware.
- Valutare il framework e lo strumento MindSpore in relazione alle alternative del settore.
- Posizionare lo stack AI di Huawei all'interno degli ambienti aziendali o cloud/on-premises.
Formato del Corso
- Lezione interattiva e discussione.
- Demo di sistema live e walkthrough basati su casi concreti.
- Laboratori guidati facoltativi sul flusso del modello da MindSpore a CANN.
Opzioni di Personalizzazione del Corso
- Per richiedere un training personalizzato per questo corso, contattateci per organizzarlo.
Ottimizzazione delle Prestazioni della Rete Neurale con CANN SDK
14 oreCANN SDK (Architettura di Calcolo per Neural Networks) è la base di calcolo AI di Huawei che consente ai developer di ottimizzare le prestazioni delle reti neurali distribuite sui processori AI Ascend.
Questo corso interattivo guidato da un instruttore (online o in sede) si rivolge a sviluppatori AI avanzati e ingegneri di sistema che desiderano ottimizzare le prestazioni dell'inferenza utilizzando il set di strumenti avanzato di CANN, incluso l'Engine del Grafo, TIK e lo sviluppo di operatori personalizzati.
Alla fine di questo corso, i partecipanti saranno in grado di:
- Capire l'architettura di runtime e il ciclo vitale delle prestazioni di CANN.
- Utilizzare strumenti di profilatura e Engine del Grafo per l'analisi e l'ottimizzazione delle prestazioni.
- Crea ed ottimizza operatori personalizzati utilizzando TIK e TVM.
- Risolvere i colloqui della memoria e migliorare il throughput del modello.
Formato del Corso
- Lectura interattiva e discussione.
- Laboratori pratici con profilatura in tempo reale e tuning degli operatori.
- Esercizi di ottimizzazione utilizzando esempi di distribuzione su casi limite.
Opzioni di Personalizzazione del Corso
- Per richiedere una formazione personalizzata per questo corso, contattateci per organizzare la vostra sessione.
SDK per Computer Vision e Pipeline di NLP
14 oreLo SDK CANN (Architettura di Calcolo per Neural Networks) fornisce potenti strumenti di distribuzione e ottimizzazione per le applicazioni AI in tempo reale nella visione artificiale e nell'elaborazione del linguaggio naturale, specialmente su hardware Huawei Ascend.
Questo corso interattivo guidato da un istruttore (online o presenza) è rivolto a praticanti di livello intermedio AI che desiderano costruire, distribuire e ottimizzare modelli di visione e linguaggio utilizzando lo SDK CANN per casi d'uso di produzione.
Al termine del corso, i partecipanti saranno in grado di:
- Distribuire ed ottimizzare modelli CV e NLP utilizzando CANN e AscendCL.
- Utilizzare gli strumenti di CANN per convertire i modelli e integrarli in pipeline live.
- Ottimizzare le prestazioni dell'inferenza per attività come rilevamento, classificazione ed analisi del sentimento.
- Creare pipeline CV/NLP in tempo reale per scenari di distribuzione edge o cloud.
Formato del Corso
- Lezione interattiva e dimostrativa.
- Laboratorio pratico con la distribuzione dei modelli e il profilo delle prestazioni.
- Progettazione di pipeline live utilizzando casi reali di CV e NLP.
Opzioni di Personalizzazione del Corso
- Per richiedere un corso personalizzato su questo tema, preghiamo contattateci per organizzare.
Costruire Operatori AI Personalizzati con CANN TIK e TVM
14 oreCANN TIK (Tensor Instruction Kernel) e Apache TVM abilitano ottimizzazioni avanzate e personalizzazioni degli operatori dei modelli AI per Huawei Ascend hardware.
Questo addestramento guidato dall'insegnante (online o sul posto di lavoro) è rivolto a sviluppatori di sistema di livello avanzato che desiderano creare, distribuire e ottimizzare operatori personalizzati per i modelli AI utilizzando il modello di programmazione TIK di CANN e l'integrazione del compilatore TVM.
Al termine di questo addestramento, i partecipanti saranno in grado di:
- Scrivere e testare operatori AI personalizzati utilizzando il TIK DSL per i processori Ascend.
- Integrare gli operatori personalizzati nell'ambiente runtime di CANN e nel grafo di esecuzione.
- Utilizzare TVM per la pianificazione degli operatori, l'autotuning e il benchmarking.
- Debuggare ed ottimizzare le prestazioni a livello istruzione per pattern di calcolo personalizzati.
Formato del Corso
- Lezione interattiva e dimostrativa.
- Sviluppo manuale degli operatori utilizzando le pipeline TIK e TVM.
- Test e ottimizzazione su hardware Ascend o simulatori.
Opzioni di Personalizzazione del Corso
- Per richiedere un addestramento personalizzato per questo corso, si prega di contattarci per organizzare.
Migrando Applicazioni CUDA alle Architetture Cinesi GPU
21 oreLe architetture cinesi GPU come Huawei Ascend, Biren e Cambricon MLU offrono alternative a CUDA adattate ai mercati locali di IA e HPC.
Questo corso interattivo guidato dal formatore (in linea o sul posto) è rivolto a programmatori esperti GPU e specialisti dell'infrastruttura che desiderano migrare ed ottimizzare le applicazioni CUDA esistenti per la distribuzione su piattaforme hardware cinesi.
Al termine del corso, i partecipanti saranno in grado di:
- Valutare la compatibilità delle attuali cariche di lavoro CUDA con alternative basate su chip cinesi.
- Migrare le basi di codice CUDA agli ambienti Huawei CANN, Biren SDK e Cambricon BANGPy.
- Confrontare le prestazioni e identificare i punti di ottimizzazione tra piattaforme.
- Risolvere sfide pratiche nel supporto interarchitetture e nella distribuzione.
Formato del Corso
- Lettura interattiva ed esercitazione.
- Esperimenti pratici di traduzione di codice e confronto delle prestazioni.
- Esercizi guidati focalizzati su strategie di adattamento multi-GPU.
Opzioni per la Personalizzazione del Corso
- Per richiedere un corso personalizzato basato sulla vostra piattaforma o progetto CUDA, contattateci per organizzare.
EU AI Act (Article4) Fundamentals
7 oreQuesto addestramento live guidato da un istruttore è rivolto a chiunque voglia assicurarsi che la propria organizzazione sia conforme, minimizzi i rischi e abbia una forza lavoro in grado di sfruttare l'IA in modo sicuro ed etico.
Al termine di questo addestramento, i partecipanti saranno in grado di:
- Comprendere come funzionano i sistemi AI e le loro potenziali applicazioni.
- Identificare rischi e limiti associati ai sistemi AI.
- Aderire ai requisiti legali ed etici pertinenti.
Fondamenti delle Applicazioni Intelligenenti
14 oreQuesto corso di formazione dal vivo con istruttore in Italia (online o in loco) è rivolto a professionisti IT di livello principiante che desiderano acquisire una comprensione di base delle applicazioni intelligenti e di come possono essere applicate in vari settori.
Al termine di questa formazione, i partecipanti saranno in grado di:
- Comprendere la storia, i principi e l'impatto dell'intelligenza artificiale.
- Identifica e applica diversi algoritmi di machine learning.
- Gestisci e analizza i dati in modo efficace per le applicazioni di intelligenza artificiale.
- Riconoscere le applicazioni pratiche e i limiti dell'IA in diversi settori.
- Discutere le considerazioni etiche e le implicazioni sociali della tecnologia AI.
Applicazioni Intelligenti Avanzate
21 oreQuesta formazione dal vivo con istruttore in Italia (online o in loco) è rivolta a data scientist, ingegneri e professionisti dell'intelligenza artificiale di livello intermedio e avanzato che desiderano padroneggiare le complessità delle applicazioni intelligenti e sfruttarle per risolvere problemi complessi del mondo reale.
Al termine di questa formazione, i partecipanti saranno in grado di:
- Implementa e analizza le architetture di deep learning.
- Applica l'apprendimento automatico su larga scala in un ambiente di elaborazione distribuito.
- Progetta ed esegui modelli di apprendimento per rinforzo per il processo decisionale.
- Sviluppare sofisticati sistemi di PNL per la comprensione del linguaggio.
- Utilizza tecniche di visione artificiale per l'analisi di immagini e video.
- Affrontare le considerazioni etiche nello sviluppo e nell'implementazione dei sistemi di IA.
Performance Optimization on Ascend, Biren, and Cambricon
21 oreAscend, Biren e Cambricon sono le principali piattaforme di hardware AI in Cina, ciascuna che offre strumenti unici di accelerazione e profilatura per carichi di lavoro AI a livello produttivo.
Questo training interattivo guidato dall'insegnante (online o sul posto) si rivolge agli ingegneri avanzati di infrastrutture AI e delle prestazioni che desiderano ottimizzare i flussi di lavoro per l'inferenza e il training dei modelli su diverse piattaforme di chip AI cinesi.
Al termine di questo corso, i partecipanti saranno in grado di:
- Benchmarkare i modelli sulle piattaforme Ascend, Biren e Cambricon.
- Identificare le bottlenecks del sistema e le inefficienze della memoria/calcolo.
- Applicare ottimizzazioni a livello di grafico, kernel e operatore.
- Tunare i pipeline di deploy per migliorare la throughput e la latenza.
Formato del Corso
- Lecture interattiva e discussioni.
- Uso pratica degli strumenti di profilatura ed ottimizzazione su ogni piattaforma.
- Esercizi guidati focalizzati su scenari pratici di tuning.
Opzioni per la Personalizzazione del Corso
- Per richiedere un training personalizzato basato sul vostro ambiente delle prestazioni o tipo di modello, contattateci per organizzare.