Grazie per aver inviato la tua richiesta! Uno dei nostri team membri ti contatterà a breve.
Grazie per aver inviato il tuo prenotazione! Uno dei nostri team membri ti contatterà a breve.
Struttura del corso
Fondamenti: Modelli di minaccia nell'ambito della AI agentica
- Tipologie di minacce legate agli agenti: uso improprio, escalation dei privilegi, perdita di dati e rischi derivanti dalla catena di approvvigionamento
- Profili degli attaccanti e capacità offensive tipiche contro gli agenti autonomi
- Mappatura delle risorse, dei confini di fiducia e dei punti critici da controllare nei sistemi agentici
Governance, Politiche e Gestione del Rischio
- Quadri normativi per la governance dei sistemi agentici (ruoli, responsabilità, procedure di approvazione)
- Progettazione delle politiche: utilizzo consentito, regole di escalation, gestione dei dati e requisiti di tracciabilità
- Aspetti legati alla conformità normativa e raccolta di prove utili per le ispezioni
Identità non umana e Autenticazione per gli Agenti
- Progettazione delle identità degli agenti: account di servizio, JWT e credenziali a durata limitata
- Schemi di accesso in base al minimo privilegio e meccanismi di fornitura delle credenziali su richiesta
- Gestione completa del ciclo di vita delle identità: rotazione, delega e revoca dei diritti
Controlli sull’Accesso, Gestione dei Segreti e Protezione dei Dati
- Modelli di controllo d’accesso granulari e approcci basati su capacità per gli agenti
- Gestione sicura dei segreti, crittografia dei dati in transito e a riposo nonché riduzione al minimo della quantità di dati trattati
- Tutela delle fonti informative sensibili e dei dati personali da accessi non autorizzati da parte degli agenti
Osservabilità, Audit e Risposta agli Incidenti
- Progettazione di sistemi di telemetria per il monitoraggio del comportamento degli agenti: tracciatura delle intenzioni, registrazione dei comandi ed evidenziazione della provenienza
- Integrazione con strumenti SIEM, definizione di soglie di allarme e preparazione alla raccolta forense
- Procedure operative standardizzate per la gestione degli incidenti legati agli agenti
Red Teaming dei Sistemi Agentici
- Pianificazione delle esercitazioni di red teaming: definizione dello scope, regole operative e meccanismi per gestire eventuali fallimenti in sicurezza
- Tecniche offensive: injection di prompt non autorizzati, sfruttamento improprio degli strumenti a disposizione, manipolazione del ragionamento sequenziale e abuso delle API
- Attuazione di attacchi controllati e valutazione dei rischi generati in termini di esposizione e danni potenziali
Rafforzamento della Sicurezza e Mitigazioni
- Controlli tecnici: limitazione delle richieste in entrata, regolamentazione delle capacità operative e impiego di sandboxing
- Misure organizzative e legate alle politiche: flussi di approvazione, intervento umano sempre attivo e meccanismi di governance strutturati
- Difese a livello di modelli e prompt: validazione degli input, standardizzazione del formato dati e filtraggio delle risposte in uscita
Implementazione Pratica di Sistemi Agentici Sicuri
- Pattern per il deploy: ambienti di staging, distribuzione graduale tramite canary release e modalità progressive
- Controlli sulle modifiche apportate ai sistemi, pipeline di test adeguati e verifiche preventive prima del deployment effettivo
- Governance integrata tra i diversi reparti: sicurezza, legalità, prodotto e operazioni aziendali
Progetto finale: Esercitazione di Red Team / Blue Team
- Simulare un attacco da parte del red team su un ambiente sandbox contenente agenti AI
- Il blue team, dotato dei controlli e delle informazioni di telemetria disponibili, dovrà difendere il sistema individuando e risolvendo le minacce emerse
- I partecipanti presenteranno infine i risultati ottenuti, il piano correttivo proposto nonché eventuali aggiornamenti normativi necessari
Conclusione e Prossimi Passi
Requisiti
- Solida preparazione in materia di ingegneria della sicurezza, amministrazione dei sistemi o operazioni cloud
- Conoscenza dei concetti legati all'IA e al machine learning nonché del funzionamento dei modelli linguistici di grandi dimensioni (LLM)
- Esperienza nella gestione delle identità e degli accessi (IAM) nonché nella progettazione di sistemi sicuri
Destinatari del corso
- Ingegneri della sicurezza e specialisti di red teaming
- Operatori IA ed ingegneri di piattaforme
- Responsabili della conformità e manager del rischio
- Manager tecnici responsabili dell’implementazione degli agenti AI
21 ore