Corso di formazione Fine-Tuning Large Language Models Using QLoRA
QLoRA è una tecnica avanzata per il fine-tuning di grandi modelli linguistici (LLMs) che sfrutta metodi di quantizzazione, offrendo un modo più efficiente per affinare questi modelli senza incurrere in costi computazionali massicci. Questo training coprirà sia le fondamenta teoriche che l'implementazione pratica del fine-tuning dei LLMs utilizzando QLoRA.
Questo corso di formazione guidato dal docente (online o in sede) è rivolto a ingegneri di apprendimento automatico, sviluppatori AI e data scientist di livello intermedio ad avanzato che desiderano imparare come utilizzare QLoRA per affinare efficacemente grandi modelli per compiti specifici e personalizzazioni.
Al termine di questo training, i partecipanti saranno in grado di:
- Capire la teoria alla base di QLoRA e delle tecniche di quantizzazione per LLMs.
- Implementare QLoRA nel fine-tuning di grandi modelli linguistici per applicazioni specifiche del dominio.
- Ottimizzare le prestazioni del fine-tuning su risorse computazionali limitate utilizzando la quantizzazione.
- Distribuire e valutare i modelli affinati in applicazioni reali in modo efficiente.
Formato del Corso
- Lezione interattiva e discussione.
- Molte esercitazioni e pratica.
- Implementazione pratica in un ambiente live-lab.
Opzioni di Personalizzazione del Corso
- Per richiedere una formazione personalizzata per questo corso, contattateci per organizzare.
Grazie per aver inviato la tua richiesta! Uno dei nostri team membri ti contatterà a breve.
Grazie per aver inviato il tuo prenotazione! Uno dei nostri team membri ti contatterà a breve.
Struttura del corso
Introduzione a QLoRA e alla Quantizzazione
- Panoramica sulla quantizzazione e il suo ruolo nell'ottimizzazione dei modelli
- Introduzione al framework QLoRA e i suoi vantaggi
- Differenze principali tra QLoRA e i metodi tradizionali di fine-tuning
Fondamenti dei Modelli Linguistici Large (LLMs)
- Introduzione ai LLMs e alla loro architettura
- Sfide del fine-tuning di modelli grandi su larga scala
- Come la quantizzazione aiuta a superare i vincoli computazionali nel fine-tuning dei LLMs
Implementazione di QLoRA per il Fine-Tuning dei LLMs
- Configurazione del framework e dell'ambiente QLoRA
- Preparazione dei dataset per il fine-tuning con QLoRA
- Guida passo-passo per implementare QLoRA sui LLMs utilizzando Python e PyTorch/TensorFlow
Ottimizzazione delle Prestazioni di Fine-Tuning con QLoRA
- Come bilanciare l'accuratezza del modello e le prestazioni con la quantizzazione
- Tecniche per ridurre i costi computazionali e l'utilizzo della memoria durante il fine-tuning
- Strategie per il fine-tuning con requisiti hardware minimi
Valutazione dei Modelli Fine-Tuned
- Come valutare l'efficacia dei modelli fine-tuned
- Metriche di valutazione comuni per i modelli linguistici
- Ottimizzazione delle prestazioni del modello post-tuning e risoluzione dei problemi
Distribuzione e Scalabilità dei Modelli Fine-Tuned
- Migliori pratiche per distribuire LLMs quantizzati negli ambienti di produzione
- Scalabilità della distribuzione per gestire le richieste in tempo reale
- Strumenti e framework per la distribuzione e il monitoraggio dei modelli
Casi d'Uso del Mondo Reale e Studi di Caso
- Caso studio: Fine-tuning LLMs per il supporto al cliente e le task NLP
- Esempi di fine-tuning LLMs in vari settori come sanità, finanza ed e-commerce
- Lezioni apprese dalle distribuzioni reali dei modelli basati su QLoRA
Riepilogo e Prossimi Passi
Requisiti
- Una comprensione delle fondamenta dell'apprendimento automatico e delle reti neurali
- Esperienza con il fine-tuning dei modelli e l'apprendimento transfer
- Familiarità con i grandi modelli linguistici (LLMs) e i framework di apprendimento profondo (ad esempio, PyTorch, TensorFlow)
Pubblico
- Ingegneri di apprendimento automatico
- Sviluppatori AI
- Data scientists
14 Ore
I corsi di formazione interaziendali richiedono più di 5 partecipanti.
Corso di formazione Fine-Tuning Large Language Models Using QLoRA - Prenotazione
Corso di formazione Fine-Tuning Large Language Models Using QLoRA - Richiesta
Fine-Tuning Large Language Models Using QLoRA - Richiesta di consulenza
Richiesta di consulenza
Corsi in Arrivo
Corsi relativi
Avanzato LangGraph: Ottimizzazione, Debugging e Monitoraggio di Grafi Complessi
35 OreLangGraph è un framework per la costruzione di applicazioni LLM a stato con multi-attori come grafi componibili con uno stato persistente e il controllo dell'esecuzione.
Questo training guidato dall'insegnante (online o in presenza) si rivolge agli ingegneri avanzati di piattaforme AI, a DevOps per l'IA e agli architetti ML che desiderano ottimizzare, debuggare, monitorare ed operare sistemi LangGraph di livello produzione.
Alla fine di questo training, i partecipanti saranno in grado di:
- Progettare e ottimizzare topologie complesse di LangGraph per velocità, costo ed scalabilità.
- Ingenegiare affidabilità con ritentative, timeout, idempotenza e recupero basato su checkpoint.
- Debuggare e tracciare l'esecuzione dei grafi, ispezionare lo stato e riprodurre sistematicamente problemi di produzione.
- Instrumentare i grafi con registri, metriche e tracce, distribuirli in produzione e monitorare SLAs e costi.
Formato del Corso
- Lettura interattiva e discussione.
- Molte esercitazioni e pratica.
- Implementazione pratica in un ambiente di laboratorio live.
Opzioni di Personalizzazione del Corso
- Per richiedere una formazione personalizzata per questo corso, si prega di contattarci per organizzare l'evento.
Ulteriori Informazioni...
Creare Agenti di Codifica con Devstral: Dalla Progettazione degli Agenti allo Strumentamento
14 OreDevstral è un framework open-source progettato per costruire ed eseguire agenti di codifica in grado di interagire con basi di codice, strumenti di sviluppo e API per migliorare la produttività degli ingegneri.
Questo training guidato da istruttori (online o in presenza) è rivolto a ingegneri ML intermedi o avanzati, team di strumentazione per sviluppatori e SREs che desiderano progettare, implementare e ottimizzare agenti di codifica utilizzando Devstral.
Al termine di questo training, i partecipanti saranno in grado di:
- Configurare Devstral per lo sviluppo di agenti di codifica.
- Progettare flussi di lavoro agentic per l'esplorazione e la modifica delle basi di codice.
- Integrare gli agenti di codifica con strumenti di sviluppo e API.
- Implementare le migliori pratiche per il deployment sicuro ed efficiente degli agenti.
Formato del Corso
- Lezione interattiva e discussione.
- Molte esercitazioni e pratica.
- Implementazione pratica in un ambiente live-lab.
Opzioni di Personalizzazione del Corso
- Per richiedere una formazione personalizzata per questo corso, contattateci per organizzare l'evento.
Ulteriori Informazioni...
Open-Source Model Ops: Self-Hosting, Fine-Tuning e Governance con Modelli Devstral & Mistral
14 OreI modelli Devstral e Mistral sono tecnologie AI a codice aperto progettate per un utilizzo flessibile, il fine-tuning e l'integrazione scalabile.
Questo training guidato dal docente (online o in presenza) è rivolto a ingegneri ML intermedi e avanzati, team di piattaforme e ingegneri di ricerca che desiderano auto-hosting, fine-tuning e governance dei modelli Mistral e Devstral in ambienti di produzione.
Al termine di questo training, i partecipanti saranno in grado di:
- Configurare e impostare ambienti auto-hosted per i modelli Mistral e Devstral.
- Applicare tecniche di fine-tuning per prestazioni specifiche al dominio.
- Implementare versioning, monitoraggio e governance del ciclo di vita.
- Sicurezza, conformità e utilizzo responsabile dei modelli a codice aperto.
Formato del Corso
- Lezione interattiva e discussione.
- Esercizi pratici di auto-hosting e fine-tuning.
- Implementazione in laboratorio di pipeline di governance e monitoraggio.
Opzioni di Personalizzazione del Corso
- Per richiedere un training personalizzato per questo corso, contattateci per organizzarlo.
Ulteriori Informazioni...
Applicazioni di LangGraph nel settore finanziario
35 OreLangGraph è un framework per la creazione di applicazioni LLM stateful e multi-attori come grafi componibili con uno stato persistente e il controllo dell'esecuzione.
Questo addestramento live guidato da un istruttore (online o in presenza) è rivolto a professionisti di livello intermedio e avanzato che desiderano progettare, implementare ed operare soluzioni finanziarie basate su LangGraph con una corretta governance, osservabilità e conformità.
Al termine di questo addestramento, i partecipanti saranno in grado di:
- Progettare flussi di lavoro specifici per le finanze basati su LangGraph allineati ai requisiti regolatori e di audit.
- Integrare standard e ontologie dei dati finanziari nello stato del grafo e nelle strumentazioni.
- Metttere in pratica la affidabilità, la sicurezza e i controlli a ciclo chiuso con l'operatore umano per processi critici.
- Distribuire, monitorare ed ottimizzare sistemi LangGraph per prestazioni, costi e SLA.
Formato del Corso
- Lectura interattiva e discussioni.
- Numerosi esercizi e pratica.
- Implementazione pratica in un ambiente di laboratorio live.
Opzioni per la Personalizzazione del Corso
- Per richiedere una formazione personalizzata su questo corso, si prega di contattarci per organizzare.
Ulteriori Informazioni...
Fondamenti di LangGraph: Promozione e Catena basate su Grafi
14 OreLangGraph è un framework per la costruzione di applicazioni LLM strutturate in grafici che supportano il planning, la ramificazione, l'utilizzo degli strumenti, la memoria e l'esecuzione controllata.
Questo corso interattivo e live (online o presenziale) è rivolto a sviluppatori principianti, engineer di prompt e pratiche di dati che desiderano progettare e costruire workflow LLM flessibili e multistep utilizzando LangGraph.
Alla fine di questo corso, i partecipanti saranno in grado di:
- Spiegare i concetti principali di LangGraph (nodi, archi, stato) e quando usarli.
- Cosrire prompt chain che si ramificano, chiamano strumenti ed eseguono operazioni di memoria.
- Integrare recupero e API esterne nei workflow grafici.
- Testare, debuggare e valutare le applicazioni LangGraph per affidabilità e sicurezza.
Formato del Corso
- Lectura interattiva e discussione guidata.
- Lab e panoramica codice in un ambiente sandbox.
- Esercizi basati su scenari per design, test e valutazione.
Opzioni di Personalizzazione del Corso
- Per richiedere un training personalizzato per questo corso, si prega di contattarci per organizzare.
Ulteriori Informazioni...
LangGraph nella Salute: Orchestrazione dei Flussi di Lavoro per Ambienti Regolamentati
35 OreLangGraph consente flussi di lavoro stateful e multi-attori alimentati da LLM con un controllo preciso sui percorsi di esecuzione e la persistenza dello stato. Nel settore sanitario, queste capacità sono cruciali per la conformità, l'interoperabilità e la costruzione di sistemi di supporto alle decisioni che si integrano nei flussi di lavoro medici.
Questo addestramento interattivo e in diretta (online o su sito) è rivolto a professionisti di livello intermedio a avanzato che desiderano progettare, implementare e gestire soluzioni sanitarie basate su LangGraph, affrontando sfide regolamentari, etiche ed operative.
Al termine di questo addestramento, i partecipanti saranno in grado di:
- Progettare flussi di lavoro di LangGraph specifici per la sanità con attenzione alla conformità e alla tracciabilità.
- Integrare le applicazioni LangGraph con ontologie e standard medici (FHIR, SNOMED CT, ICD).
- Applicare le migliori pratiche per affidabilità, tracciabilità ed esplicabilità in ambienti sensibili.
- Distribuire, monitorare e validare applicazioni LangGraph in contesti di produzione sanitaria.
Formato del Corso
- Lettura interattiva ed esercizi di discussione.
- Esercizi pratici con studi di caso reali.
- Esercitazioni di implementazione in un ambiente live-lab.
Opzioni di Personalizzazione del Corso
- Per richiedere un addestramento personalizzato per questo corso, si prega di contattarci per organizzare.
Ulteriori Informazioni...
LangGraph per Applicazioni Legali
35 OreLangGraph è un framework per costruire applicazioni LLM stateful e multi-attore come grafi componibili con stato persistente e controllo preciso sull'esecuzione.
Questo training guidato dall'insegnante (online o in sede) è rivolto a professionisti di livello intermedio ad avanzato che desiderano progettare, implementare e gestire soluzioni legali basate su LangGraph con i controlli necessari per la conformità, tracciabilità e governance.
Al termine di questo training, i partecipanti saranno in grado di:
- Progettare flussi di lavoro specifici per il settore legale che preservino l'auditabilità e la conformità.
- Integrare ontologie legali e standard documentali nello stato del grafo e nel processamento.
- Implementare guardrails, approvazioni umane e percorsi decisionali tracciabili.
- Distribuire, monitorare e mantenere servizi LangGraph in produzione con osservabilità e controlli dei costi.
Formato del Corso
- Lezione interattiva e discussione.
- Molti esercizi e pratica.
- Implementazione pratica in un ambiente di laboratorio live.
Opzioni di Personalizzazione del Corso
- Per richiedere una formazione personalizzata per questo corso, si prega di contattarci per organizzare.
Ulteriori Informazioni...
Creazione di Flussi di Lavoro Dinamici con LangGraph e Agenti LLM
14 OreLangGraph è un framework per la creazione di workflow basati su grafi LLM che supportano ramificazioni, uso strumenti, memoria e esecuzione controllabile.
Questo training live guidato da un istruttore (online o presenziale) è rivolto a ingegneri intermedi e team di prodotti che desiderano combinare la logica grafica di LangGraph con i cicli degli agenti LLM per creare applicazioni dinamiche consapevoli del contesto, come agenti supporto clienti, alberi decisionali e sistemi di recupero informazioni.
Al termine di questo training, i partecipanti saranno in grado di:
- Progettare workflow basati su grafi che coordinano agenti LLM, strumenti e memoria.
- Mettere in pratica la routing condizionale, i tentativi ripetuti e le opzioni di fallback per un'esecuzione robusta.
- Integrare il recupero dati, API e output strutturati nei cicli degli agenti.
- Valutare, monitorare e rafforzare il comportamento degli agenti per la affidabilità e la sicurezza.
Formato del Corso
- Lecture interattive e discussioni guidate.
- Laboratori guidati ed esercitazioni di codice in un ambiente sandbox.
- Esercizi di progettazione basati su scenari e recensioni tra pari.
Opzioni per la Personalizzazione del Corso
- Per richiedere un training personalizzato per questo corso, si prega di contattarci per organizzare l'incontro.
Ulteriori Informazioni...
LangGraph per l'Automazione del Marketing
14 OreLangGraph è un framework di orchestrazione basato su grafi che consente flussi di lavoro condizionali e multi-step con LLM e strumenti, ideale per automatizzare e personalizzare pipeline di contenuti.
Questo training guidato da un istruttore (online o in loco) è rivolto a marketer, strategisti del contenuto e sviluppatori di automazione intermedi che desiderano implementare campagne email dinamiche e pipeline di generazione di contenuti utilizzando LangGraph.
Al termine di questo training, i partecipanti saranno in grado di:
- Progettare flussi di lavoro e contenuti basati su grafi con logica condizionale.
- Integrare LLM, API e sorgenti dati per la personalizzazione automatizzata.
- Gestire stato, memoria e contesto attraverso campagne multi-step.
- Valutare, monitorare e ottimizzare le prestazioni dei flussi di lavoro e i risultati della consegna.
Formato del Corso
- Lezioni interattive e discussioni di gruppo.
- Laboratori pratici per implementare flussi di lavoro email e pipeline di contenuti.
- Esercizi basati su scenari sulla personalizzazione, segmentazione e logica condizionale.
Opzioni di Personalizzazione del Corso
- Per richiedere un training personalizzato per questo corso, contattateci per organizzarlo.
Ulteriori Informazioni...
Le Chat Enterprise: ChatOps Privato, Integrazioni & Controlli di Amministrazione
14 OreLe Chat Enterprise è una soluzione privata di ChatOps che fornisce funzionalità AI conversazionale sicure, personalizzabili e governate per le organizzazioni, con supporto per RBAC, SSO, connettori e integrazioni di applicazioni aziendali.
Questa formazione guidata da un istruttore (online o in sede) è rivolta a product manager, responsabili IT, ingegneri soluzioni e team di sicurezza/conformità di livello intermedio che desiderano distribuire, configurare e governare Le Chat Enterprise negli ambienti aziendali.
Al termine di questa formazione, i partecipanti saranno in grado di:
- Configurare Le Chat Enterprise per distribuzioni sicure.
- Abilitare RBAC, SSO e controlli basati sulla conformità.
- Integrare Le Chat con applicazioni e database aziendali.
- Progettare e implementare playbooks di governance e amministrazione per ChatOps.
Formato del Corso
- Lezione interattiva e discussione.
- Molte esercitazioni e pratica.
- Implementazione pratica in un ambiente live-lab.
Opzioni di Personalizzazione del Corso
- Per richiedere una formazione personalizzata per questo corso, contattateci per organizzare.
Ulteriori Informazioni...
Cost-Effective LLM Architectures: Mistral at Scale (Performance / Cost Engineering)
14 OreMistral è una famiglia di modelli linguistici di grande dimensione ottimizzati per il deploy a basso costo su larga scala.
Questo corso di formazione guidato dal docente (online o in presenza) è rivolto a infrastrutturisti avanzati, architetti cloud e responsabili MLOps che desiderano progettare, implementare e ottimizzare architetture basate su Mistral per massimizzare il throughput e minimizzare i costi.
Al termine di questo corso, i partecipanti saranno in grado di:
- Implementare pattern di deploy scalabili per Mistral Medium 3.
- Applicare tecniche di batch, quantizzazione e strategie efficienti per il serving.
- Ottimizzare i costi dell'inferenza mantenendo le prestazioni.
- Progettare topologie di serving pronte per la produzione per carichi di lavoro aziendali.
Formato del Corso
- Lezione interattiva e discussione.
- Molti esercizi e pratica.
- Implementazione pratica in un ambiente live-lab.
Opzioni di Personalizzazione del Corso
- Per richiedere una formazione personalizzata per questo corso, si prega di contattarci per organizzare.
Ulteriori Informazioni...
Productizing Conversational Assistants with Mistral Connectors & Integrations
14 OreMistral AI è una piattaforma di intelligenza artificiale aperta che consente alle squadre di creare e integrare assistenti conversazionali nei flussi di lavoro aziendali e rivolti ai clienti.
Questo corso guidato dal formatore (online o in presenza) è rivolto a product manager, sviluppatori full-stack e ingegneri di integrazione con livello di competenza da principiante a intermedio che desiderano progettare, integrare e produttizzare assistenti conversazionali utilizzando connettori e integrazioni Mistral.
Al termine di questo corso, i partecipanti saranno in grado di:
- Integrare modelli conversazionali Mistral con connettori aziendali e SaaS.
- Implementare la generazione rafforzata da recupero (RAG) per risposte fondate su dati.
- Progettare schemi UX per assistenti chat interni ed esterni.
- Distribuire gli assistenti nei flussi di lavoro dei prodotti per casi d'uso reali.
Formato del Corso
- Lezione interattiva e discussione.
- Esercizi pratici di integrazione.
- Sviluppo in laboratorio live di assistenti conversazionali.
Opzioni di Personalizzazione del Corso
- Per richiedere un corso personalizzato, contattateci per organizzare l'evento.
Ulteriori Informazioni...
Enterprise-Grade Deployments with Mistral Medium 3
14 OreMistral Medium 3 è un modello linguistico multimodale di alte prestazioni progettato per il deployment in ambienti aziendali a livello di produzione.
Questo training guidato da un istruttore (online o in loco) è rivolto a ingegneri AI/ML intermedi e avanzati, architetti di piattaforme e team MLOps che desiderano deployare, ottimizzare e proteggere Mistral Medium 3 per scenari aziendali.
Al termine di questo training, i partecipanti saranno in grado di:
- Deployare Mistral Medium 3 utilizzando API o opzioni self-hosted.
- Ottimizzare le prestazioni e i costi dell'inferenza.
- Implementare scenari multimodali con Mistral Medium 3.
- Applicare le migliori pratiche di sicurezza e conformità per gli ambienti aziendali.
Formato del Corso
- Lezione interattiva e discussione.
- Molte esercitazioni e pratica.
- Implementazione pratica in un ambiente lab live.
Opzioni di Personalizzazione del Corso
- Per richiedere una formazione personalizzata per questo corso, si prega di contattarci per organizzare l'evento.
Ulteriori Informazioni...
Mistral per l'AI Responsabile: Privacy, Residenza dei Dati e Controlli Aziendali
14 OreMistral AI è una piattaforma di intelligenza artificiale (IA) aperta e pronta per le imprese che offre funzionalità per la distribuzione di IA sicura, conforme alle normative e responsabile.
Questo training guidato da un istruttore (online o in presenza) è rivolto a leader della conformità di livello intermedio, architetti di sicurezza e stakeholder legali/operativi che desiderano implementare pratiche responsabili di IA con Mistral sfruttando meccanismi di privacy, residenza dei dati e controlli aziendali.
Al termine di questo training, i partecipanti saranno in grado di:
- Implementare tecniche di protezione della privacy nelle distribuzioni Mistral.
- Applicare strategie di residenza dei dati per soddisfare i requisiti normativi.
- Configurare controlli aziendali di livello enterprise come RBAC, SSO e log di audit.
- Valutare le opzioni di fornitori e distribuzione per l'allineamento alla conformità.
Formato del Corso
- Lezione interattiva e discussione.
- Casi studio e esercizi focalizzati sulla conformità.
- Implementazione pratica di controlli di IA aziendali.
Opzioni di Personalizzazione del Corso
- Per richiedere un training personalizzato per questo corso, si prega di contattarci per organizzare.
Ulteriori Informazioni...
Applicazioni Multimodali con Modelli Mistral (Visione, OCR e Comprensione Documentale)
14 OreI modelli Mistral sono tecnologie AI open-source che ora si estendono a flussi di lavoro multimodalità, supportando sia compiti linguistici che visivi per applicazioni aziendali e di ricerca.
Questo training guidato dall'instruttore (online o in presenza) è rivolto a ricercatori ML intermedi, ingegneri applicati e team prodotto che desiderano costruire applicazioni multimodalità con i modelli Mistral, inclusi flussi di lavoro OCR e pipeline per la comprensione dei documenti.
Al termine di questo training, i partecipanti saranno in grado di:
- Configurare e impostare i modelli Mistral per compiti multimodalità.
- Implementare flussi di lavoro OCR e integrarli con pipeline NLP.
- Progettare applicazioni di comprensione dei documenti per casi d'uso aziendali.
- Sviluppare funzionalità di ricerca vision-text e interfacce utente assistive.
Formato del Corso
- Lezione interattiva e discussione.
- Esercizi pratici di programmazione.
- Implementazione pratica di pipeline multimodalità in laboratorio.
Opzioni di Personalizzazione del Corso
- Per richiedere un training personalizzato per questo corso, contattateci per organizzare.
Ulteriori Informazioni...
