Grazie per aver inviato la tua richiesta! Uno dei nostri team membri ti contatterà a breve.
Grazie per aver inviato il tuo prenotazione! Uno dei nostri team membri ti contatterà a breve.
Durata 21 ore
Struttura del corso
Fondamenti: modelli di minaccia per l'Agentic AI
- Tipi di minacce agentiche: abuso, escalation, perdita di dati e rischi nella catena di fornitura
- Profili degli avversari e capacità degli attaccanti specifiche per gli agenti autonomi
- Mappatura di asset, confini di fiducia e punti di controllo critici per gli agenti
Governance, politiche e gestione del rischio
- Framework di governance per i sistemi agentici (ruoli, responsabilità, gate di approvazione)
- Progettazione delle politiche: uso accettabile, regole di escalation, gestione dei dati e auditabilità
- Considerazioni sulla conformità e raccolta di evidenze per gli audit
Identità e autenticazione non umane per agenti
- Progettazione delle identità per gli agenti: account di servizio, JWT e credenziali a scadenza breve
- Modelli di accesso con minimo privilegio e credenziali just-in-time
- Ciclo di vita delle identità, rotazione, delega e strategie di revoca
Controlli di accesso, segreti e protezione dei dati
- Modelli di controllo degli accessi granulari e pattern basati sulle capacità per gli agenti
- Gestione dei segreti, crittografia in transito e a riposo, e minimizzazione dei dati
- Protezione delle fonti di conoscenza sensibili e dei dati personali (PII) dall'accesso non autorizzato degli agenti
Osservabilità, audit e risposta agli incidenti
- Progettazione della telemetria per il comportamento degli agenti: tracciamento delle intenzioni, log dei comandi e provenienza
- Integrazione con SIEM, soglie di allerta e prontezza forense
- Runbook e playbook per gli incidenti relativi agli agenti e per la loro contenzione
Red-teaming dei sistemi agentici
- Pianificazione degli esercizi di red-team: ambito, regole di ingaggio e failover sicuro
- Tecniche avversariali: prompt injection, uso improprio degli strumenti, manipolazione della chain-of-thought e abuso delle API
- Esecuzione di attacchi controllati e misurazione dell'esposizione e dell'impatto
Indurimento e mitigazioni
- Controlli ingegneristici: limitazione delle risposte, gating delle capacità e sandboxing
- Controlli di politica e orchestrazione: flussi di approvazione, human-in-the-loop e hook di governance
- Difese a livello di modello e prompt: validazione degli input, canonizzazione e filtri di output
Operativizzazione di deployment sicuri di agenti
- Modelli di deployment: staging, canary e rollout progressivo per gli agenti
- Controllo dei cambiamenti, pipeline di test e verifiche di sicurezza pre-deployment
- Governance trasversale: playbook per sicurezza, legale, prodotto e operations
Progetto finale: Esercizio Red-Team / Blue-Team
- Esecuzione di un attacco red-team simulato contro un ambiente sandbox di agenti
- Difesa, rilevamento e rimedio come blue team utilizzando controlli e telemetria
- Presentazione dei risultati, del piano di rimedio e degli aggiornamenti alle politiche
Riepilogo e prossimi passi
Requisiti
- Solide basi in ingegneria della sicurezza, amministrazione di sistema o operazioni cloud
- Conoscenza dei concetti di AI/ML e del comportamento dei Large Language Model (LLM)
- Esperienza nella gestione delle identità e degli accessi (IAM) e nella progettazione di sistemi sicuri
Pubblico target
- Ingegneri della sicurezza e red-teamer
- Ingegneri di operazioni AI e ingegneri di piattaforma
- Responsabili della conformità normativa e risk manager
- Responsabili tecnici responsabili del deployment di agenti
Recensioni (1)
inventariare e identificare le diverse esposizioni al rischio nell'ambito dell'AI
Gary Cook - Cybersecurity and Information Technology Risk Division
Corso - Introduction to AI Trust, Risk, and Security Management (AI TRiSM)
Traduzione automatica