Corso di formazione Ottimizzazione di modelli linguistici di grandi dimensioni open source (LLaMA, Mistral, Qwen, ecc.)

Introduzione ai modelli linguistici open source

• Cosa sono i modelli con pesi aperti e perché rivestono importanza strategica
• Panoramica su LLaMA, Mistral, Qwen e altri modelli sviluppati dalla comunità
• Casi d’uso relativi a implementazioni private, on-premise o in ambienti sicuri

Configurazione dell’ambiente e strumenti necessari

• Installazione e configurazione delle librerie Transformers, Datasets e PEFT
• Scelta della hardware adeguata per l’ottimizzazione dei modelli
• Caricamento di modelli pre-addestrati da Hugging Face o altri archivi

Preparazione e elaborazione dei dati

• Formati dei set di dati (addestramento basato su istruzioni, conversazioni testuali)
• Tokenizzazione e gestione delle sequenze di testo
• Creazione di set di dati personalizzati e generatori di input per il training

Tecniche di ottimizzazione dei modelli

• Confronto tra l’ottimizzazione completa e i metodi che richiedono poche modifiche ai parametri del modello
• Utilizzo di LoRA e QLoRA per un’ottimizzazione più efficiente e risparmiosa in termini di risorse
• Impiego dell’API Trainer per sperimentazioni rapide e veloci

Valutazione e ottimizzazione delle prestazioni dei modelli

• Analisi delle performance ottenute, misurate attraverso indici di generazione testuale e accuratezza risultante
• Gestione del sovradattamento, della generalizzazione ai dati non visti e scelta dei set di validazione idonei
• Suggerimenti pratici per migliorare le prestazioni e strategie di monitoraggio in tempo reale

Distribuzione sicura e utilizzo aziendale dei modelli ottimizzati

• Salvataggio ed eventuale ricaricamento dei modelli per il riconoscimento testuale automatico
• Implementazione dei modelli in contesti aziendali con elevati requisiti di sicurezza
• Scelte strategiche riguardo all’impiego in ambienti on-premise o sul cloud

Casi d’uso concreti e analisi pratica

• Esempi di applicazioni industriali che impiegano i modelli LLaMA, Mistral e Qwen
• Gestione dell’ottimizzazione multilingue e per settori specifici del mercato
• Discussione: confronto tra vantaggi ed svantaggi dei modelli open source rispetto a quelli proprietari

Sintesi finale e prospettive future