Corso di formazione Sviluppo di applicazioni basate su LLM sicure e responsabili

Panoramica sull’architettura degli LLM e sui punti potenzialmente a rischio di attacco

• Come vengono creati, distribuiti e accessibili tramite API i modelli linguistici grandi
• Componenti fondamentali delle architetture delle applicazioni LLM (ad esempio prompt, agenti, memoria e API)
• Dove e come si manifestano le problematiche di sicurezza nell’uso reale

Iniezione di prompt e attacchi di jailbreak

• Che cosa si intende per iniezione di prompt e perché rappresenta un rischio significativo
• Scenari di iniezione diretta e indiretta dei prompt<\/li>
• Tecniche utilizzate per aggirare i filtri di sicurezza tramite jailbreak
• Metodi per rilevare e contrastare tali attacchi

Fuoriuscita di dati e rischi legati alla privacy

• Rischio di divulgazione accidentale di informazioni tramite le risposte del modello
• Pericoli derivanti dalla fuoriuscita di dati personali identificabili e dal cattivo utilizzo della memoria del modello
• Come progettare prompt consapevoli della privacy e implementare la generazione potenziata da recupero (RAG)

Filtraggio e controllo delle uscite degli LLM

• Utilizzo di Guardrails AI per il filtraggio e la validazione dei contenuti generati
• Definizione di schemi e vincoli specifici per le risposte del modello
• Monitoraggio e registrazione delle uscite non conformi ai requisiti di sicurezza<\/li>

Approcci basati sul controllo umano e sull’interazione nel ciclo operativo

• Quando e dove inserire una supervisione umana nei processi automatizzati
• Gestione di code di approvazione, soglie di valutazione e meccanismi di fallback
• Calibrazione della fiducia negli output del modello e importanza dell’spiegabilità degli stessi

Pattern progettuali sicuri per applicazioni LLM

• Applicazione dei principi di minimo privilegio e uso di ambienti isolati nelle chiamate API e nell’attività degli agenti intelligenti
• Gestione della velocità delle richieste, limitazioni d’uso e rilevamento potenziali abusi
• Costruzione di flussi operativi robusti tramite LangChain e isolamento dei prompt tra loro

Conformità, registrazione e governance delle applicazioni LLM

• Garantire la tracciabilità completa di tutte le uscite generate dai modelli linguistici grandi
• Mantenere un controllo rigoroso sulle versioni dei prompt e sui dati di sistema
• Allineamento con le policy interne di sicurezza aziendale e i requisiti normativi vigenti

Riepilogo finale e prossimi passi da intraprendere