Grazie per aver inviato la tua richiesta! Uno dei nostri team membri ti contatterà a breve.
Grazie per aver inviato il tuo prenotazione! Uno dei nostri team membri ti contatterà a breve.
Struttura del corso
1. Architettura dei LLM e tecniche fondamentali
- Confronto tra modelli a decodifica esclusiva (tipo GPT) e modelli di tipo encoder-decoder (tipo BERT).
- Approfondimento sull’attenzione multi-head, la codifica posizionale e la tokenizzazione dinamica.
- Tecniche avanzate di campionamento: regolazione della temperatura, top-p, ricerca a beam search, impostazioni di bias sui logit e penalizzazione sequenziale.
- Analisi comparativa dei principali modelli: GPT-4o, Claude 3 Opus, Gemini 1.5 Flash, Mistral 8x22B, LLaMA 3 70B e le varianti quantizzate per ambienti edge.
2. Ingegneria delle richieste in contesto aziendale
- Stratificazione delle richieste: prompt di sistema, contestuali, utente e post-elaborazione.
- Strategie come Chain-of-Thought, ReACT e auto-CoT con variabili dinamiche.
- Progettazione strutturata delle richieste: utilizzo di schema JSON, template Markdown e formati YAML per il richiamo funzionale.
- Contromisure contro l’iniezione malevola nelle richieste: sanitizzazione dei dati, limitazione della lunghezza e impostazioni predefinite di sicurezza.
3. Strumenti AI per sviluppatori
- Presentazione e confronto tra GitHub Copilot, Gemini Code Assist, i SDK di Claude, Cursor e Cody.
- Migliori pratiche per l’integrazione con IntelliJ (Scala) e VSCode (JS/Python).
- Benchmark incrociati su più linguaggi riguardo generazione di codice, test e refactoring.
- Personalizzazione delle richieste per ciascuno strumento: alias utili, finestre contestuali ottimali e riutilizzo di snippet predefiniti.
4. Integrazione e orchestrazione tramite API
- Implementazione end-to-end delle funzionalità di OpenAI Function Calling, degli schemi API di Gemini e dei SDK di Claude.
- Gestione del rate limiting, risoluzione degli errori, logica di retry automatico e monitoraggio dei costi.
-
Creazione di wrapper specifici per ogni linguaggio:
- Scala: con Akka HTTP
- Python: con FastAPI
- Node.js/TypeScript: con Express
- Componenti LangChain: gestione della memoria, catene di elaborazione, agenti autonomi, strumenti d’interfaccia, conversazioni multironda e meccanismi di fallback a più livelli.
5. Retrival-Augmented Generation (RAG)
- Elaborazione di documenti tecnici: Markdown, PDF, Swagger e CSV mediante LangChain/LlamaIndex.
- Segmentazione semantica ed eliminazione intelligente delle duplicazioni.
- Utilizzo di vettori semantici: MiniLM, Instructor XL, embedding OpenAI e modello Mistral per ambienti locali.
- Gestione dei database vettoriali: Weaviate, Qdrant, ChromaDB, Pinecone – con ottimizzazione della ricerca basata sulla distanza e sul ranking.
- Implementazione di sistemi di fallback in caso di bassa confidenza delle risposte, per attivare altri LLM o metodi di recupero alternativi.
6. Sicurezza, privacy e distribuzione
- Anonimizzazione delle informazioni sensibili, controllo dell’eventuale inquinamento delle richieste tramite contenuti indesiderati, sanitizzazione del contesto e crittografia dei token.
- Tracciamento di tutte le interazioni: log strutturati e identificatori univoci per ogni richiesta AI.
- Installazione di server LLM autogestiti (ad esempio Ollama + Mistral), ottimizzazione sull’utilizzo della GPU e quantizzazione a 4 o 8 bit per risparmiare memoria.
- Distribuzione tramite Kubernetes: utilizzo di Helm charts, scalabilità dinamica e ottimizzazioni del warm start per prestazioni rapide all’avvio.
Laboratori pratici
-
Refactoring di codice JavaScript tramite prompt guidati
- Elaborazione a più fasi: rilevamento automatico delle inefficienze del codice → proposta di refactoring → generazione automatica di test unitari → aggiunta di documentazione inline.
-
Generazione automatica di test in Scala
- Creazione di test basati su proprietà tramite Copilot o Claude; analisi della copertura codice e individuazione di casi limite.
-
Implementazione di un microservizio AI personalizzato
- Creazione di un endpoint REST in grado di accettare richieste, inviarle al LLM tramite funzioni chiamate, registrare i risultati e gestire meccanismi di fallback.
-
Costruzione integrale di una pipeline RAG
- Processo completo: caricamento simulato di documenti → indicizzazione automatica → generazione di vettori semantici → recupero dati con classificazione per rilevanza.
-
Distribuzione multi-modello su container
- Configurazione di un ambiente dove Claude funge da modello principale mentre Ollama agisce come fallback quantizzato; monitoraggio in tempo reale tramite Grafana con allarmi predefiniti.
Risultati attesi
- Repository Git condiviso contenente esempi di codice, wrapper funzionali e script per il test delle richieste.
- Relazione analitica sulle prestazioni: tempi di risposta, costo per token ed efficienza nella copertura del codice.
- Dashboard Grafana predefinita per il monitoraggio continuo delle interazioni AI.
- Documentazione tecnica completa in formato PDF e libreria strutturata di prompt riutilizzabili.
Risoluzione dei problemi più comuni
Sintesi finale e consigli per il proseguimento formativo
Requisiti
- Conoscenza di almeno un linguaggio di programmazione: Scala, Python o JavaScript.
- Capacità nell'utilizzo di Git, nella progettazione delle API REST e nei flussi CI/CD.
- Conoscenze di base sui concetti fondamentali di Docker e Kubernetes.
- Interesse nell'applicazione delle tecnologie AI/LLM all'ambito dell'ingegneria software aziendale.
Destinatari
- Sviluppatori software ed esperti di intelligenza artificiale
- Architetti tecnici e progettisti di soluzioni
- Ingegneri DevOps impegnati nell'implementazione di pipeline AI
- Team di ricerca e sviluppo che esplorano l’utilizzo dell’AI nel ciclo produttivo
35 ore
Recensioni (2)
Il corso è stato molto utile, e il formatore è stato chiaro, ben preparato e coinvolgente. Ho apprezzato il fatto che fosse molto pratico, con laboratori e casi d'uso reali. Complessivamente, è stata un'esperienza formativa di grande valore.
Mattia Dettori - MFM INVESTMENT Ltd Italian branch
Corso - LLM Engineering Bootcamp
Traduzione automatica
- La sezione su vincoli, test e guardrail è stata interessante - Francesco conosce molto bene l'argomento ed è un ottimo insegnante. - Nel complesso, ho apprezzato molto il corso e ho imparato parecchio
Angelo Parrinello - MFM INVESTMENT Ltd Italian branch
Corso - LLM Engineering Bootcamp
Traduzione automatica