Corso di formazione Red Teaming AI Systems: Offensive Security for ML Models

Questo training live guidato da un istruttore (online o su sito) è rivolto a leader aziendali di livello intermedio che desiderano comprendere come gestire e proteggere i sistemi AI responsabilmente, rispettando le nuove strutture globali emergenti, come l'EU AI Act, GDPR, ISO/IEC 42001, ed il decreto presidenziale USA sull'AI.

Al termine del training, i partecipanti saranno in grado di:

• Comprendere rischi legali, etici e regolatori dell'utilizzo dell'AI nelle varie divisioni aziendali.
• Interpretare ed applicare principali quadri di governance AI (EU AI Act, NIST AI RMF, ISO/IEC 42001).
• Stabilire politiche per la sicurezza, l'auditing e il controllo nel deployment dell'AI all'interno dell'azienda.
• Sviluppare linee guida di acquisizione ed utilizzo per sistemi AI esterni ed interni.

Artificial Intelligence (AI) introduce nuove dimensioni del rischio operativo, sfide di governance e esposizione alla cibercriminalità per le agenzie e i dipartimenti governativi.

Questo training guidato da un docente (online o sul posto) è rivolto a professionisti IT e del rischio settore pubblico con esperienza limitata in IA che desiderano comprendere come valutare, monitorare e proteggere i sistemi AI all'interno di un contesto governativo o regolatorio.

Al termine di questo training, i partecipanti saranno in grado di:

• Interpretare i concetti chiave di rischio correlati ai sistemi AI, inclusi bias, imprevedibilità e deriva del modello.
• Applicare quadri di governance e auditing specifici per l'IA come NIST AI RMF e ISO/IEC 42001.
• Riconoscere le minacce alla cibercriminalità che mirano ai modelli AI e alle pipeline dati.
• Stabilire piani di gestione del rischio interdipartimentali e allineamento delle politiche per la distribuzione dell'IA.

Formato del Corso

• Lezione interattiva e discussione di casi d'uso settore pubblico.
• Esercizi sul quadro di governance AI e mappatura delle politiche.
• Modellazione delle minacce basata su scenari e valutazione del rischio.

Opzioni di Personalizzazione del Corso

• Per richiedere un training personalizzato per questo corso, si prega di contattarci per organizzare.

Questo addestramento interattivo guidato da un istruttore (online o sul posto) si rivolge a professionisti IT di livello principiante-intermedio che desiderano comprendere e implementare AI TRiSM nelle loro organizzazioni.

Al termine di questo addestramento, i partecipanti saranno in grado di:

• Comprendere i concetti chiave e l'importanza della gestione della fiducia, del rischio e della sicurezza nell'IA.
• Identificare e mitigare i rischi associati ai sistemi di IA.
• Implementare le migliori pratiche per la sicurezza dell'IA.
• Comprendere la conformità normativa ed etica nell'IA.
• Sviluppare strategie efficaci per il governo e la gestione dell'IA.

This instructor-led, live training in Italia (online or onsite) is aimed at intermediate-level to advanced-level AI developers, architects, and product managers who wish to identify and mitigate risks associated with LLM-powered applications, including prompt injection, data leakage, and unfiltered output, while incorporating security controls like input validation, human-in-the-loop oversight, and output guardrails.

By the end of this training, participants will be able to:

• Understand the core vulnerabilities of LLM-based systems.
• Apply secure design principles to LLM app architecture.
• Use tools such as Guardrails AI and LangChain for validation, filtering, and safety.
• Integrate techniques like sandboxing, red teaming, and human-in-the-loop review into production-grade pipelines.

Questo training guidato dall'insegnante in Italia (online o su sito) è rivolto a professionisti di livello intermedio nel campo dell'IA e della cybersecurity che desiderano comprendere e affrontare le vulnerabilità specifiche delle IA nei modelli e sistemi, soprattutto in settori altamente regolamentati come finanza, governance dei dati e consulenza.

Al termine di questo training, i partecipanti saranno in grado di:

• Comprendere il tipo di attacchi avversari contro i sistemi AI e metodi per difendersi da essi.
• Implementare tecniche di rafforzamento del modello per proteggere le pipeline di machine learning.
• Garantire la sicurezza e l'integrità dei dati nei modelli di machine learning.
• Navigare i requisiti di conformità normativa relativi alla sicurezza AI.

Questo addestramento guidato dal formatore (online o sul posto) è rivolto ai professionisti di base nel settore della sicurezza IT, gestione del rischio e conformità che desiderano comprendere i concetti fondamentali di sicurezza AI, vettori di minaccia e framework globali come NIST AI RMF e ISO/IEC 42001.

Al termine di questo addestramento, i partecipanti saranno in grado di:

• Comprendere i rischi unici di sicurezza introdotti dai sistemi AI.
• Identificare vettori di minaccia come attacchi avversari, contaminazione dei dati e inversione del modello.
• Applicare modelli di governance fondamentali come il Framework NIST AI Risk Management.
• Allineare l'uso dell'AI con le normative emergenti, i lineamenti di conformità ed i principi etici.

Questo corso interattivo guidato da un istruttore (online o in sede) è rivolto a professionisti avanzati che desiderano implementare e valutare tecniche come il federated learning, la computazione multiparty sicura, l'encryptazione omomorfa e la privacy differenziale nei pipeline di apprendimento automatico reali.

Al termine del corso, i partecipanti saranno in grado di:

• Comprendere e confrontare le tecniche chiave di preservazione della privacy nel ML.
• Implementare sistemi di federated learning utilizzando framework open-source.
• Applicare la privacy differenziale per lo scambio sicuro dei dati e l'addestramento del modello.
• Utilizzare tecniche di crittografia e computazione sicura per proteggere gli input e gli output del modello.

Questo training interattivo guidato dall'insegnante in Italia (online o presenza) è rivolto a ingegneri e professionisti della sicurezza di livello intermedio che desiderano proteggere i modelli AI deployati all'edge da minacce come l'alterazione, la fuga di dati, gli input avversari e gli attacchi fisici.

Al termine del training, i partecipanti saranno in grado di:

• Identificare e valutare rischi di sicurezza nelle implementazioni AI all'edge.
• Applicare tecniche di resistenza agli attacchi e inferenza crittografata.
• Rafforzare i modelli deployati all'edge e proteggere le pipeline dei dati.
• Implementare strategie di mitigazione delle minacce specifiche per sistemi incorporati e limitati.

Questo training guidato dall'insegnante in Italia (online o sul posto) è rivolto a professionisti intermedi di machine learning e cybersecurity che desiderano comprendere e mitigare le minacce emergenti contro i modelli AI, utilizzando sia framework concettuali che difese pratiche come addestramento robusto e privacy differenziale.

Al termine di questo training, i partecipanti saranno in grado di:

• Identificare e classificare minacce specifiche AI come attacchi avversari, inversione e avvelenamento dei dati.
• Utilizzare strumenti come il Adversarial Robustness Toolbox (ART) per simulare gli attacchi e testare i modelli.
• Applicare difese pratiche, incluse l'addestramento avversario, l'inserimento di rumore e tecniche di preservazione della privacy.
• Progettare strategie di valutazione del modello consapevoli delle minacce in ambienti di produzione.