Corso di formazione Introduzione ai Large Language Models (LLM)

Introduzione

• Cos’è un Large Language Model (LLM)?
• Differenze tra LLM e modelli tradizionali di NLP
• Descrizione delle caratteristiche e dell’architettura dei LLM
• Sfide e limitazioni riscontrate nell’utilizzo degli LLM

Comprensione dei LLM

• Il ciclo di vita di un modello LLM
• Funzionamento interno dei Large Language Models
• Componenti fondamentali di un modello LLM: codificatore, decodificatore, meccanismo di attenzione, embedding e altri elementi.

Avvio con i LLM

• Configurazione dell’ambiente di sviluppo necessario
• Installazione di un modello LLM come strumento operativo: ad esempio tramite Google Colab o Hugging Face.

Lavorare con i Large Language Models

• Esplorazione delle opzioni disponibili per i modelli LLM
• Creazione e utilizzo pratico di un modello LLM
• Addestramento personalizzato di un modello su dati specifici.

Sintesi dei testi

• Cosa è la sintesi testuale e quali sono le sue applicazioni pratiche
• Utilizzo dei LLM per effettuare sintesi testuali sia estrattive che astratte.
• Valutazione della qualità dei risultati ottenuti con metriche come ROUGE e BLEU.

Rispondimo a domande

• Cosa si intende per rispondimo a domande e in quali ambiti viene applicato
• Impiego dei modelli LLM sia nell’ambito delle domande aperte che di quelle circoscritte.
• Analisi della precisione delle risposte generate tramite valori come F1 e EM.

Generazione automatica del testo

• Cosa comporta la generazione di contenuti testuali e quali sono i suoi campi d’applicazione
• Sfruttamento dei modelli LLM per creare testi in modo condizionato o non condizionato.
• Controllo dello stile, del tono e della tematica del contenuto generato, regolando parametri come temperatura, top-k, top-p e altri elementi correlati.

Integrazione dei LLM con altre piattaforme ed framework

• Lavorare con i modelli LLM in combinazione con PyTorch o TensorFlow.
• Integrazione con tecnologie come Flask e Streamlit.
• Adozione di soluzioni basate su Google Cloud o AWS per sfruttare al meglio i modelli LLM.

Risoluzione dei problemi più comuni

• Identificazione degli errori e dei bug tipici nell’utilizzo di un LLM.
• Utilizzo di TensorBoard per monitorare e visualizzare il processo di addestramento.
• Semplificazione della scrittura del codice grazie a PyTorch Lightning e miglioramento delle prestazioni.
• Importazione e elaborazione dei dati tramite lo strumento Hugging Face Datasets.

Riepilogo e prossimi passi da intraprendere