Contattataci

Struttura del corso

1. Architettura dei LLM e tecniche fondamentali

  • Confronto tra modelli a decodifica esclusiva (tipo GPT) e modelli di tipo encoder-decoder (tipo BERT).
  • Approfondimento sull’attenzione multi-head, la codifica posizionale e la tokenizzazione dinamica.
  • Tecniche avanzate di campionamento: regolazione della temperatura, top-p, ricerca a beam search, impostazioni di bias sui logit e penalizzazione sequenziale.
  • Analisi comparativa dei principali modelli: GPT-4o, Claude 3 Opus, Gemini 1.5 Flash, Mistral 8x22B, LLaMA 3 70B e le varianti quantizzate per ambienti edge.

2. Ingegneria delle richieste in contesto aziendale

  • Stratificazione delle richieste: prompt di sistema, contestuali, utente e post-elaborazione.
  • Strategie come Chain-of-Thought, ReACT e auto-CoT con variabili dinamiche.
  • Progettazione strutturata delle richieste: utilizzo di schema JSON, template Markdown e formati YAML per il richiamo funzionale.
  • Contromisure contro l’iniezione malevola nelle richieste: sanitizzazione dei dati, limitazione della lunghezza e impostazioni predefinite di sicurezza.

3. Strumenti AI per sviluppatori

  • Presentazione e confronto tra GitHub Copilot, Gemini Code Assist, i SDK di Claude, Cursor e Cody.
  • Migliori pratiche per l’integrazione con IntelliJ (Scala) e VSCode (JS/Python).
  • Benchmark incrociati su più linguaggi riguardo generazione di codice, test e refactoring.
  • Personalizzazione delle richieste per ciascuno strumento: alias utili, finestre contestuali ottimali e riutilizzo di snippet predefiniti.

4. Integrazione e orchestrazione tramite API

  • Implementazione end-to-end delle funzionalità di OpenAI Function Calling, degli schemi API di Gemini e dei SDK di Claude.
  • Gestione del rate limiting, risoluzione degli errori, logica di retry automatico e monitoraggio dei costi.
  • Creazione di wrapper specifici per ogni linguaggio:
    • Scala: con Akka HTTP
    • Python: con FastAPI
    • Node.js/TypeScript: con Express
  • Componenti LangChain: gestione della memoria, catene di elaborazione, agenti autonomi, strumenti d’interfaccia, conversazioni multironda e meccanismi di fallback a più livelli.

5. Retrival-Augmented Generation (RAG)

  • Elaborazione di documenti tecnici: Markdown, PDF, Swagger e CSV mediante LangChain/LlamaIndex.
  • Segmentazione semantica ed eliminazione intelligente delle duplicazioni.
  • Utilizzo di vettori semantici: MiniLM, Instructor XL, embedding OpenAI e modello Mistral per ambienti locali.
  • Gestione dei database vettoriali: Weaviate, Qdrant, ChromaDB, Pinecone – con ottimizzazione della ricerca basata sulla distanza e sul ranking.
  • Implementazione di sistemi di fallback in caso di bassa confidenza delle risposte, per attivare altri LLM o metodi di recupero alternativi.

6. Sicurezza, privacy e distribuzione

  • Anonimizzazione delle informazioni sensibili, controllo dell’eventuale inquinamento delle richieste tramite contenuti indesiderati, sanitizzazione del contesto e crittografia dei token.
  • Tracciamento di tutte le interazioni: log strutturati e identificatori univoci per ogni richiesta AI.
  • Installazione di server LLM autogestiti (ad esempio Ollama + Mistral), ottimizzazione sull’utilizzo della GPU e quantizzazione a 4 o 8 bit per risparmiare memoria.
  • Distribuzione tramite Kubernetes: utilizzo di Helm charts, scalabilità dinamica e ottimizzazioni del warm start per prestazioni rapide all’avvio.

Laboratori pratici

  1. Refactoring di codice JavaScript tramite prompt guidati
    • Elaborazione a più fasi: rilevamento automatico delle inefficienze del codice → proposta di refactoring → generazione automatica di test unitari → aggiunta di documentazione inline.
  2. Generazione automatica di test in Scala
    • Creazione di test basati su proprietà tramite Copilot o Claude; analisi della copertura codice e individuazione di casi limite.
  3. Implementazione di un microservizio AI personalizzato
    • Creazione di un endpoint REST in grado di accettare richieste, inviarle al LLM tramite funzioni chiamate, registrare i risultati e gestire meccanismi di fallback.
  4. Costruzione integrale di una pipeline RAG
    • Processo completo: caricamento simulato di documenti → indicizzazione automatica → generazione di vettori semantici → recupero dati con classificazione per rilevanza.
  5. Distribuzione multi-modello su container
    • Configurazione di un ambiente dove Claude funge da modello principale mentre Ollama agisce come fallback quantizzato; monitoraggio in tempo reale tramite Grafana con allarmi predefiniti.

Risultati attesi

  • Repository Git condiviso contenente esempi di codice, wrapper funzionali e script per il test delle richieste.
  • Relazione analitica sulle prestazioni: tempi di risposta, costo per token ed efficienza nella copertura del codice.
  • Dashboard Grafana predefinita per il monitoraggio continuo delle interazioni AI.
  • Documentazione tecnica completa in formato PDF e libreria strutturata di prompt riutilizzabili.

Risoluzione dei problemi più comuni

Sintesi finale e consigli per il proseguimento formativo

Requisiti

  • Conoscenza di almeno un linguaggio di programmazione: Scala, Python o JavaScript.
  • Capacità nell'utilizzo di Git, nella progettazione delle API REST e nei flussi CI/CD.
  • Conoscenze di base sui concetti fondamentali di Docker e Kubernetes.
  • Interesse nell'applicazione delle tecnologie AI/LLM all'ambito dell'ingegneria software aziendale.

Destinatari

  • Sviluppatori software ed esperti di intelligenza artificiale
  • Architetti tecnici e progettisti di soluzioni
  • Ingegneri DevOps impegnati nell'implementazione di pipeline AI
  • Team di ricerca e sviluppo che esplorano l’utilizzo dell’AI nel ciclo produttivo
 35 ore

Numero di Partecipanti


Prezzo per partecipante

Recensioni (2)

Corsi in Arrivo

Categorie relative