Grazie per aver inviato la tua richiesta! Uno dei nostri team membri ti contatterà a breve.
Grazie per aver inviato il tuo prenotazione! Uno dei nostri team membri ti contatterà a breve.
Struttura del corso
Introduzione a QLoRA e alla quantizzazione
- Panoramica sulla quantizzazione e il suo ruolo nell’ottimizzazione dei modelli
- Presentazione del framework QLoRA e i vantaggi offerti
- Differenze fondamentali tra QLoRA e i metodi tradizionali di ottimizzazione
Fondamenti sui modelli linguistici di grandi dimensioni (LLM)
- Introduzione agli LLM e alla loro architettura
- Sfide legate all’ottimizzazione su larga scala dei modelli di grandi dimensioni
- Come la quantizzazione facilita l’addestramento degli LLM in presenza di limitazioni computazionali
Implementazione pratica di QLoRA per l’ottimizzazione degli LLM
- Configurazione dell’ambiente e del framework QLoRA
- Preparazione dei dataset necessari all’addestramento tramite QLoRA
- Istruzioni dettagliate per l’implementazione di QLoRA su modelli linguistici, utilizzando Python con PyTorch o TensorFlow
Ottimizzazione delle prestazioni mediante QLoRA
- Equilibrio tra accuratezza del modello e consumo computazionale legato alla quantizzazione
- Tecniche per ridurre i costi di calcolo e l’uso della memoria durante l’addestramento
- Strategie per realizzare ottimizzazioni anche con hardware limitato
Valutazione dei modelli ottimizzati
- Criteri per valutare l’efficacia dei modelli ottenuti mediante QLoRA
- Metriche più utilizzate nell’analisi delle prestazioni linguistiche dei modelli
- Procedimenti per migliorare ulteriormente i modelli e risolvere eventuali problematiche post-addestramento
Distribuzione e scalabilità dei modelli ottimizzati
- Linee guida per l’integrazione in produzione di LLM quantizzati
- Modalità di scalatura della distribuzione al fine di gestire richieste in tempo reale
- Strumenti e framework utili alla distribuzione e al monitoraggio dei modelli
Casi d’uso reali ed esempi pratici
- Caso studio: Ottimizzazione di LLM per assistenza clienti e applicazioni NLP
- Esempi di utilizzo in settori quali sanità, finanza e commercio elettronico
- Spunti derivati da esperienze concrete nell’utilizzo dei modelli basati su QLoRA
Riepilogo e prossimi passi
Requisiti
- Conoscenze di base sui principi del machine learning e sulle reti neurali
- Esperienza nell’ottimizzazione dei modelli e nel transfer learning
- Familiarità con i modelli linguistici di grandi dimensioni (LLM) e con framework di deep learning come PyTorch o TensorFlow
Destinatari del corso
- Ingegneri del machine learning
- Sviluppatori di intelligenza artificiale
- Data scientist
14 ore
