Corso di formazione Red Teaming AI Systems: Offensive Security for ML Models

Questo corso guidato dal formatore in Italia (online o presenza) è rivolto a professionisti di sicurezza IT, gestione dei rischi e conformità livello principiante che desiderano comprendere i concetti fondamentali della sicurezza AI, i vettori di minaccia e i framework globali come NIST AI RMF e ISO/IEC 42001.

Al termine del corso, i partecipanti saranno in grado di:

• Comprendere i rischi di sicurezza unici introdotti dai sistemi AI.
• Identificare vettori di minaccia come attacchi avversari, avvelenamento dei dati e inversione del modello.
• Applicare modelli di governance fondamentali come il NIST AI Risk Management Framework.
• Allineare l'uso dell'AI con le normative emergenti, i lineamenti di conformità ed i principi etici.

Questa formazione live guidata dall'instructor (online o sul posto) è rivolta a professionisti intermedi di machine learning e cybersecurity che desiderano comprendere e mitigare le minacce emergenti contro i modelli AI, utilizzando sia framework concettuali che difese pratiche come addestramento robusto e privacy differenziale.

Al termine di questa formazione, i partecipanti saranno in grado di:

• Identificare e classificare le minacce specifiche AI come attacchi avversari, inversione e avvelenamento dei dati.
• Utilizzare strumenti come l'Adversarial Robustness Toolbox (ART) per simulare gli attacchi e testare i modelli.
• Applicare difese pratiche incluse l'addestramento avversario, l'iniezione di rumore e tecniche di preservazione della privacy.
• Delineare strategie di valutazione del modello consapevoli delle minacce in ambienti di produzione.

This instructor-led, live training in Italia (online or onsite) is aimed at intermediate-level to advanced-level AI developers, architects, and product managers who wish to identify and mitigate risks associated with LLM-powered applications, including prompt injection, data leakage, and unfiltered output, while incorporating security controls like input validation, human-in-the-loop oversight, and output guardrails.

By the end of this training, participants will be able to:

• Understand the core vulnerabilities of LLM-based systems.
• Apply secure design principles to LLM app architecture.
• Use tools such as Guardrails AI and LangChain for validation, filtering, and safety.
• Integrate techniques like sandboxing, red teaming, and human-in-the-loop review into production-grade pipelines.

Questo corso interattivo guidato dal formatore (online o presenza) è rivolto a leader aziendali di livello intermedio che desiderano comprendere come governare e proteggere i sistemi AI responsabilmente e in conformità con i framework globali emergenti come l'EU AI Act, GDPR, ISO/IEC 42001 e il Decreto Esecutivo USA sull'AI.

Al termine di questo corso, i partecipanti saranno in grado di:

• Comprendere i rischi legali, etici e regolatori dell'utilizzo dell'AI tra le varie divisioni aziendali.
• Interpretare ed applicare i principali framework di governance AI (EU AI Act, NIST AI RMF, ISO/IEC 42001).
• Stabilire politiche di sicurezza, revisione e sorveglianza per la distribuzione dell'AI nell'azienda.
• Sviluppare linee guida per l'acquisizione e l'utilizzo di sistemi AI di terze parti e interni all'azienda.

Questo corso interattivo guidato da un istruttore (online o in sede) è rivolto a professionisti avanzati che desiderano implementare e valutare tecniche come l'apprendimento federato, il calcolo multiparty sicuro, la crittografia omomorfa e la privacy differenziale nelle pipeline di apprendimento automatico reali.

Al termine del corso, i partecipanti saranno in grado di:

• Capire e confrontare le tecniche chiave per la preservazione della privacy nell'IA.
• Implementare sistemi di apprendimento federato utilizzando framework open source.
• Applicare la privacy differenziale per una condivisione sicura dei dati e l'addestramento del modello.
• Utilizzare tecniche di crittografia e calcolo sicuro per proteggere gli input e le uscite del modello.

Questo corso live guidato dall'insegnante in Italia (online o sul posto) è rivolto a ingegneri di livello intermedio e professionisti della sicurezza che desiderano proteggere i modelli AI deployati all'edge da minacce come il tampering, la fuga di dati, gli input avversari e gli attacchi fisici.

Al termine di questo corso, i partecipanti saranno in grado di:

• Identificare ed analizzare i rischi di sicurezza nelle implementazioni AI all'edge.
• Applicare tecniche di resistenza al tampering e inferenza crittografata.
• Rafforzare i modelli deployati all'edge e proteggere le pipeline dati.
• Mettere in pratica strategie di mitigazione delle minacce specifiche per sistemi embedded e vincolati.

Artificial Intelligence (AI) introduce nuove dimensioni di rischio operativo, sfide di governance e esposizione alla cibercriminalità per gli enti e i dipartimenti governativi.

Questo addestramento guidato da un istruttore (in linea o sul posto) si rivolge ai professionisti IT e del rischio del settore pubblico con esperienza limitata in IA che desiderano comprendere come valutare, monitorare e proteggere i sistemi AI all'interno di un contesto governativo o regolatorio.

Al termine di questo addestramento, i partecipanti saranno in grado di:

• Interpretare i concetti chiave del rischio relativi ai sistemi AI, inclusa la bias, l'imprevedibilità e il deriva modellistica.
• Applicare quadri di governance e auditing specifici per l'IA come NIST AI RMF e ISO/IEC 42001.
• Riconoscere le minacce alla cibercriminalità che mirano ai modelli AI e alle pipeline dati.
• Stabilire piani di gestione del rischio interdipartimentali ed allineare le politiche per la distribuzione dell'IA.

Formato del Corso

• Lectura interattiva e discussione di casi d'uso nel settore pubblico.
• Esercizi sui quadri di governance AI e mappatura delle politiche.
• Modellazione minacce basata su scenari ed valutazione del rischio.

Opzioni per la Personalizzazione del Corso

• Per richiedere un addestramento personalizzato per questo corso, contattateci per organizzare.