Contattataci

Struttura del corso

Fondamenti: Modelli di minaccia nell'ambito della AI agentica

  • Tipologie di minacce legate agli agenti: uso improprio, escalation dei privilegi, perdita di dati e rischi derivanti dalla catena di approvvigionamento
  • Profili degli attaccanti e capacità offensive tipiche contro gli agenti autonomi
  • Mappatura delle risorse, dei confini di fiducia e dei punti critici da controllare nei sistemi agentici

Governance, Politiche e Gestione del Rischio

  • Quadri normativi per la governance dei sistemi agentici (ruoli, responsabilità, procedure di approvazione)
  • Progettazione delle politiche: utilizzo consentito, regole di escalation, gestione dei dati e requisiti di tracciabilità
  • Aspetti legati alla conformità normativa e raccolta di prove utili per le ispezioni

Identità non umana e Autenticazione per gli Agenti

  • Progettazione delle identità degli agenti: account di servizio, JWT e credenziali a durata limitata
  • Schemi di accesso in base al minimo privilegio e meccanismi di fornitura delle credenziali su richiesta
  • Gestione completa del ciclo di vita delle identità: rotazione, delega e revoca dei diritti

Controlli sull’Accesso, Gestione dei Segreti e Protezione dei Dati

  • Modelli di controllo d’accesso granulari e approcci basati su capacità per gli agenti
  • Gestione sicura dei segreti, crittografia dei dati in transito e a riposo nonché riduzione al minimo della quantità di dati trattati
  • Tutela delle fonti informative sensibili e dei dati personali da accessi non autorizzati da parte degli agenti

Osservabilità, Audit e Risposta agli Incidenti

  • Progettazione di sistemi di telemetria per il monitoraggio del comportamento degli agenti: tracciatura delle intenzioni, registrazione dei comandi ed evidenziazione della provenienza
  • Integrazione con strumenti SIEM, definizione di soglie di allarme e preparazione alla raccolta forense
  • Procedure operative standardizzate per la gestione degli incidenti legati agli agenti

Red Teaming dei Sistemi Agentici

  • Pianificazione delle esercitazioni di red teaming: definizione dello scope, regole operative e meccanismi per gestire eventuali fallimenti in sicurezza
  • Tecniche offensive: injection di prompt non autorizzati, sfruttamento improprio degli strumenti a disposizione, manipolazione del ragionamento sequenziale e abuso delle API
  • Attuazione di attacchi controllati e valutazione dei rischi generati in termini di esposizione e danni potenziali

Rafforzamento della Sicurezza e Mitigazioni

  • Controlli tecnici: limitazione delle richieste in entrata, regolamentazione delle capacità operative e impiego di sandboxing
  • Misure organizzative e legate alle politiche: flussi di approvazione, intervento umano sempre attivo e meccanismi di governance strutturati
  • Difese a livello di modelli e prompt: validazione degli input, standardizzazione del formato dati e filtraggio delle risposte in uscita

Implementazione Pratica di Sistemi Agentici Sicuri

  • Pattern per il deploy: ambienti di staging, distribuzione graduale tramite canary release e modalità progressive
  • Controlli sulle modifiche apportate ai sistemi, pipeline di test adeguati e verifiche preventive prima del deployment effettivo
  • Governance integrata tra i diversi reparti: sicurezza, legalità, prodotto e operazioni aziendali

Progetto finale: Esercitazione di Red Team / Blue Team

  • Simulare un attacco da parte del red team su un ambiente sandbox contenente agenti AI
  • Il blue team, dotato dei controlli e delle informazioni di telemetria disponibili, dovrà difendere il sistema individuando e risolvendo le minacce emerse
  • I partecipanti presenteranno infine i risultati ottenuti, il piano correttivo proposto nonché eventuali aggiornamenti normativi necessari

Conclusione e Prossimi Passi

Requisiti

  • Solida preparazione in materia di ingegneria della sicurezza, amministrazione dei sistemi o operazioni cloud
  • Conoscenza dei concetti legati all'IA e al machine learning nonché del funzionamento dei modelli linguistici di grandi dimensioni (LLM)
  • Esperienza nella gestione delle identità e degli accessi (IAM) nonché nella progettazione di sistemi sicuri

Destinatari del corso

  • Ingegneri della sicurezza e specialisti di red teaming
  • Operatori IA ed ingegneri di piattaforme
  • Responsabili della conformità e manager del rischio
  • Manager tecnici responsabili dell’implementazione degli agenti AI
 21 ore

Numero di Partecipanti


Prezzo per partecipante

Corsi in Arrivo

Categorie relative