Grazie per aver inviato la tua richiesta! Uno dei nostri team membri ti contatterà a breve.
Grazie per aver inviato il tuo prenotazione! Uno dei nostri team membri ti contatterà a breve.
Struttura del corso
Il panorama delle minacce nell’ambito dell’IA
- Perché la sicurezza per l’IA differisce da quella tradizionale: non determinismo, ragionamento poco trasparente e i prompt come superficie d’attacco
- Classificazione degli attacchi: in fase di addestramento, durante l’inferenza e nella catena di approvvigionamento
- Il profilo dell’avversario nell’ambito del Machine Learning: chi mira ad attaccare i sistemi IA e con quali scopi
L’OWASP Top 10 per le applicazioni LLM
- Injection dei prompt: modalità di attacco dirette e indirette
- Gestione inadeguata degli output e rischi legati alla richiesta tra plugin distinti
- Avvelenamento dei dati utilizzati per l’addestramento e vulnerabilità della catena di approvvigionamento
- Rifiuto di servizio nei modelli, divulgazione non autorizzata di informazioni sensibili e eccessiva autonomia concessa ai sistemi IA
- Laboratorio pratico: sfruttamento di ciascuna categoria prevista dall’OWASP su una applicazione di test
Injection dei Prompt e Red Teaming per il Jailbreak
- Tipologie di tecniche d’injection: dirette, indirette, applicate in più fasi o con modalità multimodali
- Utilizzo automatizzato delle risorse Giskard e Garak, nonché di strumenti fuzzing personalizzati, per testare la sicurezza
- Classificazione dei tentativi di jailbreak e valutazione degli approcci difensivi adottabili
- Creazione di un ambiente di red teaming idoneo a garantire test continui sulla sicurezza degli LLM
Attacchi e contromisure a livello modellistico
- Estrazione dei modelli: come si ottengono i pesi modellistici e le relative funzionalità tramite interrogazioni API
- Inferenza su appartenenza: come determinare se certi dati sono stati utilizzati nell’addestramento del modello
- Esempi di input avversari: perturbazioni mirate a fuorviare classificatori ed embedding
- Avvelenamento dei dati: alterazione delle informazioni usate per addestrare i modelli al fine di creare backdoor o ridurne le prestazioni
Controlli di sicurezza sugli input e sugli output
- Pulizia degli input: tecniche che vanno oltre i classici meccanismi difensivi web
- Filtraggio dei risultati: prevenzione della diffusione di contenuti offensivi, dati identificativi sensibili e codice generato in modo errato
- Strategie di controllo automatico: NeMo, Guardrails AI ed altre regole predefinite personalizzabili
- Mantenimento di formati strutturati negli output come misura difensiva indispensabile
Sicurezza nella catena di approvvigionamento dell’IA
- Verifica dell’autenticità e integrità dei modelli tramite analisi della provenienza
- Rilevamento di potenziali rischi derivanti da dipendenze software per librerie Machine Learning e formati modellistici standardizzati
- Modalità sicure di distribuzione: utilizzo di sandbox, isolamento delle reti e limitazione dei permessi concessi ai sistemi IA
- Indagine approfondita su modelli fine-tuned o creati da comunità esterne alla ricerca di eventuali malware nascosti
Sicurezza operativa per i sistemi basati sull’IA
- Controllo rigoroso degli accessi a endpoint modellistici, database vettoriali e strumenti automatizzati associati all’IA
- Registrazione accurata di tutte le interazioni con i modelli e di ogni decisione presa da essi
- Piani di risposta alle emergenze legate a violazioni della sicurezza dell’IA: cosa fare quando il sistema IA stesso è compromesso
- Test costanti sulla sicurezza attraverso i cicli CI/CD applicati ai processi di sviluppo dei modelli ML
Creazione e implementazione di un programma strutturato di sicurezza per l’IA
- Modello di maturazione della sicurezza IA e percorso evolutivo consigliato
- Integrazione dei principi di sicurezza IA nei programmi esistenti di sicurezza applicativa e Cloud Security
- Quadri normativi da considerare e normative emergenti riguardanti i sistemi intelligenti artificiali
- Raccolta, aggiornamento e distribuzione all’interno dell’organizzazione di una guida completa sulla sicurezza per l’IA
Requisiti
- Esperienza nella distribuzione di modelli Machine Learning o applicazioni LLM in produzione.
- Conoscenza di base dei concetti legati alla sicurezza informatica, inclusi autenticazione, autorizzazione e modellazione delle minacce.
- Padronanza della programmazione Python, necessaria per gli esercizi pratici sui test avversari.
Destinatari del corso
- Ingegneri della sicurezza che desiderano ampliare le proprie competenze verso i rischi connessi all’IA e al Machine Learning.
- Ingegneri del Machine Learning responsabili della robustezza e affidabilità dei modelli.
- Membri dei team di red teaming che intendono integrare i sistemi IA nei propri test di penetrazione.
14 ore
