Grazie per aver inviato la tua richiesta! Uno dei nostri team membri ti contatterà a breve.
Grazie per aver inviato il tuo prenotazione! Uno dei nostri team membri ti contatterà a breve.
Durata 35 ore
Struttura del corso
1. Architettura LLM e Tecniche Fondamentali
- Confronto tra modelli Decoder-Only (stile GPT) e Encoder-Decoder (stile BERT).
- Approfondimento su Multi-Head Self-Attention, encoding posizionale e tokenizzazione dinamica.
- Campionamento avanzato: temperatura, top-p, beam search, bias logit e penalità sequenziali.
- Analisi comparativa dei principali modelli: GPT-4o, Claude 3 Opus, Gemini 1.5 Flash, Mistral 8×22B, LLaMA 3 70B e varianti quantizzate per edge.
2. Prompt Engineering per l'Enterprise
- Stratificazione dei prompt: prompt di sistema, prompt di contesto, prompt utente e post-elaborazione.
- Tecniche per Chain-of-Thought, ReACT e auto-CoT con variabili dinamiche.
- Progettazione strutturata dei prompt: schema JSON, template Markdown, function-calling YAML.
- Strategie per la mitigazione delle prompt injection: sanitizzazione, vincoli di lunghezza, valori predefiniti di fallback.
3. Strumenti AI per gli Sviluppatori
- Panoramica e uso comparativo di GitHub Copilot, Gemini Code Assist, Claude SDKs, Cursor e Cody.
- Best practice per l'integrazione con IntelliJ (Scala) e VSCode (JS/Python).
- Benchmarking trasversale ai linguaggi per compiti di coding, generazione di test e refactoring.
- Personalizzazione dei prompt per strumento: alias, finestre di contesto, riuso di snippet.
4. Integrazione API e Orchestr
- Implementazione end-to-end di OpenAI Function Calling, Gemini API Schemas e Claude SDK.
- Gestione del rate limiting, gestione degli errori, logica di retry e metering delle fatturazioni.
- Creazione di wrapper specifici per linguaggio:
- Scala: Akka HTTP
- Python: FastAPI
- Node.js/TypeScript: Express
- Componenti di LangChain: Memory, Chains, Agents, Tools, conversazione multi-turno e catene di fallback.
5. Retrieval-Augmented Generation (RAG)
- Analisi di documenti tecnici: Markdown, PDF, Swagger, CSV con LangChain/LlamaIndex.
- Segmentazione semantica e deduplicazione intelligente.
- Lavoro con le embeddins: MiniLM, Instructor XL, embeddins OpenAI, embeddins locali Mistral.
- Gestione di vector store: Weaviate, Qdrant, ChromaDB, Pinecone – tuning del ranking e del nearest-neighbor.
- Implementazione di fallback a bassa confidenza verso altri LLM o retriever.
6. Sicurezza, Privacy e Distribuzione
- Masking delle PII, controllo dell'inquinamento dei prompt, sanitizzazione del contesto e crittografia dei token.
- Tracciamento di prompt/output: audit trail e ID univoci per ciascuna chiamata LLM.
- Configurazione di server LLM self-hosted (Ollama + Mistral), ottimizzazione GPU e quantizzazione 4-bit/8-bit.
- Distribuzione basata su Kubernetes: Helm charts, autoscaling e ottimizzazione del warm start.
Laboratori Pratici
- Refactoring JavaScript basato su Prompt
- Prompting multi-step: rilevamento dei code smells → proposta di refactoring → generazione di test unitari → documentazione inline.
- Generazione di Test in Scala
- Creazione di test basati su proprietà utilizzando Copilot rispetto a Claude; misurazione della copertura e della generazione di casi limite.
- Wrapper per Microservizi AI
- Punto di accesso REST che accetta prompt, li inoltta a un LLM tramite function-calling, registra i risultati e gestisce la logica di fallback.
- Pipeline RAG Completa
- Documenti simulati → indicizzazione → embeddins → recupero → interfaccia di ricerca con metriche di ranking.
- Distribuzione Multi-Modello
- Configurazione containerizzata con Claude come modello principale e Ollama come fallback quantizzato; monitoraggio tramite Grafana con soglie di allerta.
Consegne
- Repository Git condiviso contenente esempi di codice, wrapper e test dei prompt.
- Report di benchmark: latenza, costo dei token, metriche di copertura.
- Dashboard Grafana preconfigurata per il monitoraggio delle interazioni LLM.
- Documentazione tecnica PDF completa e libreria di prompt versionata.
Risoluzione dei Problemi
Riepilogo e Prossimi Passi
Requisiti
- Familiarità con almeno un linguaggio di programmazione (Scala, Python o JavaScript).
- Conoscenza di Git, progettazione di REST API e workflow CI/CD.
- Comprensione di base dei concetti di Docker e Kubernetes.
- Interesse ad applicare le tecnologie AI/LLM all'ingegneria del software aziendale.
Pubblico di Riferimento
- Ingegneri del software e sviluppatori AI
- Architetti tecnici e progettisti di soluzioni
- Ingegneri DevOps che implementano pipeline AI
- Team R&D che esplorano lo sviluppo assistito da AI
Recensioni (2)
Il corso è stato molto utile, e il formatore è stato chiaro, ben preparato e coinvolgente. Ho apprezzato il fatto che fosse molto pratico, con laboratori e casi d'uso reali. Complessivamente, è stata un'esperienza formativa di grande valore.
Mattia Dettori - MFM INVESTMENT Ltd Italian branch
Corso - LLM Engineering Bootcamp
Traduzione automatica
- La sezione su vincoli, test e guardrail è stata interessante - Francesco conosce molto bene l'argomento ed è un ottimo insegnante. - Nel complesso, ho apprezzato molto il corso e ho imparato parecchio
Angelo Parrinello - MFM INVESTMENT Ltd Italian branch
Corso - LLM Engineering Bootcamp
Traduzione automatica
