Contattataci

Struttura del corso

Panoramica sull’architettura degli LLM e sui punti potenzialmente a rischio di attacco

  • Come vengono creati, distribuiti e accessibili tramite API i modelli linguistici grandi
  • Componenti fondamentali delle architetture delle applicazioni LLM (ad esempio prompt, agenti, memoria e API)
  • Dove e come si manifestano le problematiche di sicurezza nell’uso reale

Iniezione di prompt e attacchi di jailbreak

  • Che cosa si intende per iniezione di prompt e perché rappresenta un rischio significativo
  • Scenari di iniezione diretta e indiretta dei prompt<\/li>
  • Tecniche utilizzate per aggirare i filtri di sicurezza tramite jailbreak
  • Metodi per rilevare e contrastare tali attacchi

Fuoriuscita di dati e rischi legati alla privacy

  • Rischio di divulgazione accidentale di informazioni tramite le risposte del modello
  • Pericoli derivanti dalla fuoriuscita di dati personali identificabili e dal cattivo utilizzo della memoria del modello
  • Come progettare prompt consapevoli della privacy e implementare la generazione potenziata da recupero (RAG)

Filtraggio e controllo delle uscite degli LLM

  • Utilizzo di Guardrails AI per il filtraggio e la validazione dei contenuti generati
  • Definizione di schemi e vincoli specifici per le risposte del modello
  • Monitoraggio e registrazione delle uscite non conformi ai requisiti di sicurezza<\/li>

Approcci basati sul controllo umano e sull’interazione nel ciclo operativo

  • Quando e dove inserire una supervisione umana nei processi automatizzati
  • Gestione di code di approvazione, soglie di valutazione e meccanismi di fallback
  • Calibrazione della fiducia negli output del modello e importanza dell’spiegabilità degli stessi

Pattern progettuali sicuri per applicazioni LLM

  • Applicazione dei principi di minimo privilegio e uso di ambienti isolati nelle chiamate API e nell’attività degli agenti intelligenti
  • Gestione della velocità delle richieste, limitazioni d’uso e rilevamento potenziali abusi
  • Costruzione di flussi operativi robusti tramite LangChain e isolamento dei prompt tra loro

Conformità, registrazione e governance delle applicazioni LLM

  • Garantire la tracciabilità completa di tutte le uscite generate dai modelli linguistici grandi
  • Mantenere un controllo rigoroso sulle versioni dei prompt e sui dati di sistema
  • Allineamento con le policy interne di sicurezza aziendale e i requisiti normativi vigenti

Riepilogo finale e prossimi passi da intraprendere

Requisiti

  • Conoscenza dei modelli linguistici grandi e delle interfacce basate su prompt
  • Esperienza nello sviluppo di applicazioni LLM utilizzando Python
  • Comprensione delle integrazioni API e del deploy in ambienti cloud

Destinatari del corso

  • Sviluppatori AI
  • Architetti di applicazioni e soluzioni
  • Product manager tecnici che lavorano con strumenti basati su LLM
 14 ore

Numero di Partecipanti


Prezzo per partecipante

Corsi in Arrivo

Categorie relative