Corso di formazione Sicurezza dei modelli AI: minacce, attacchi e difese

L’AAISM rappresenta un quadro avanzato per la valutazione, la gestione e il controllo dei rischi di sicurezza nei sistemi basati sull'intelligenza artificiale.

Si tratta di un corso formativo dal vivo condotto da istruttori (sia online che in sede), rivolto a professionisti esperti desiderosi di implementare controlli di sicurezza efficaci e pratiche di governance nei contesti aziendali che impiegano l’AI.

Al termine del percorso formativo, i partecipanti saranno in grado di:

• Valutare i rischi legati alla sicurezza dell'IA mediante metodologie riconosciute a livello settoriale.
• Implementare modelli di governance finalizzati a un impiego responsabile dell’intelligenza artificiale.
• Allineare le politiche di sicurezza IA agli obiettivi organizzativi e alle normative vigenti.
• Migliorare la resilienza e l’accountability nei processi operativi guidati dall’IA.

Formato del corso

• Lezioni tenute da esperti, supportate da analisi dettagliate.
• Laboratori pratici e attività di valutazione strutturata.
• Esercizi applicativi basati su scenari reali di governance dell’intelligenza artificiale.

Opzioni di personalizzazione del corso

• Per ricevere una formazione su misura in linea con la strategia aziendale in materia di intelligenza artificiale, vi invitiamo a contattarci per personalizzare il programma.

Questo corso formativo, tenuto da istruttori ed erogato in Italia (online o in presenza), è pensato per i leader aziendali di livello intermedio che vogliono apprendere come gestire e tutelare i sistemi di IA con responsabilità, nel rispetto dei nuovi quadri normativi globali quali il Regolamento sull’IA dell’UE, il GDPR, la norma ISO/IEC 42001 e l’Ordinanza esecutiva statunitense sull’IA.

Al termine del percorso formativo i partecipanti saranno in grado di:

• Comprendere i rischi legali, etici e normativi derivanti dall’utilizzo dell’IA nei diversi reparti aziendali.
• Interpretare e applicare i principali quadri di governance per l’IA (Regolamento sull’IA dell’UE, NIST AI RMF, ISO/IEC 42001).
• Definire politiche di sicurezza, audit e supervisione relative all’impiego dell’IA in azienda.
• Stabilire linee guida per l’acquisto e l’utilizzo di sistemi di IA sviluppati da terze parti o internamente all’azienda.

L’Intelligenza Artificiale introduce nuove dimensioni di rischio operativo, sfide di governance e vulnerabilità in termini di cybersecurity per le agenzie e i dipartimenti governativi.

Questo corso formativo, tenuto da un istruttore e svolto in modalità online o in presenza, si rivolge a professionisti IT e specialisti della gestione dei rischi operanti nel settore pubblico, che hanno una conoscenza limitata dell’Intelligenza Artificiale ma desiderano imparare a valutare, monitorare e proteggere i sistemi basati su AI in contesti governativi e normativi.

Al termine del corso i partecipanti saranno in grado di:

• Comprendere i principali concetti legati ai rischi associati ai sistemi AI, tra cui distorsioni, imprevedibilità e variazioni nei modelli.
• Applicare quadri di governance e di audit specifici per l’AI, come il NIST AI RMF e lo standard ISO/IEC 42001.
• Identificare le minacce alla sicurezza informatica dirette a modelli AI e alle relative pipeline dati.
• Definire piani interdisciplinari di gestione dei rischi e garantire la coerenza normativa per il deployment di soluzioni basate su AI.

Modalità del corso

• Lezioni interattive e discussioni su casi d’uso tipici del settore pubblico.
• Esercitazioni pratiche relative ai quadri di governance per l’AI e alla mappatura delle politiche da adottare.
• Simulazioni basate su scenari reali per la modellazione delle minacce e la valutazione dei rischi.

Opzioni di personalizzazione del corso

• Per richiedere un percorso formativo su misura, vi invitiamo a contattarci.

Questo corso offre una guida pratica alla protezione delle moderne applicazioni basate sull’IA, delle API, dei copilot e degli agenti autonomi. I partecipanti acquisiranno dimestichezza con le differenze tra la sicurezza informatica tradizionale e quella specifica per l’IA; esploreranno le minacce più comuni legate a questa tecnologia, quali l’iniezione di prompt, l’avvelenamento dei sistemi RAG e il malutilizzo degli agenti AI. Inoltre apprenderanno come adottare strategie di difesa strutturate – tra cui WAF, gateway per l’IA e meccanismi aggiuntivi di controllo – che assicurino una protezione efficace in ambienti di produzione. Attraverso esercitazioni pratiche e casi reali, i corsisti acquisiranno le capacità necessarie per identificare anomalie nei sistemi basati su LLM e implementare misure difensive adeguate.

Questo corso pratico, tenuto da un istruttore in Italia (online o in presenza), è rivolto a professionisti IT di livello principiante e intermedio che desiderano comprendere e applicare i principi dell’AI TRiSM nelle proprie organizzazioni.

Al termine del corso, i partecipanti saranno in grado di:

• Comprendere i concetti fondamentali e l’importanza della gestione della fiducia, dei rischi e della sicurezza nell’ambito dell’IA.
• Identificare e ridurre i rischi connessi ai sistemi di intelligenza artificiale.
• Applicare le migliori pratiche per la sicurezza nell’ambito dell’IA.
• Comprendere le normative vigenti e gli aspetti etici legati all’utilizzo dell’intelligenza artificiale.
• Elaborare strategie efficaci per la governance e la gestione dei sistemi IA.

Questo corso pratico guidato da un istruttore in Italia (online o in presenza) si rivolge a sviluppatori AI, architetti e product manager di livello intermedio ed avanzato che desiderano individuare e mitigare i rischi legati alle applicazioni alimentate da LLM, come l’iniezione di prompt, la fuoriuscita di dati e le risposte non filtrate. Si apprenderà inoltre a implementare controlli di sicurezza quali la validazione degli input, il controllo umano nel ciclo operativo e meccanismi di sorveglianza delle uscite.

Al termine del corso, i partecipanti saranno in grado di:

• Comprendere le principali vulnerabilità dei sistemi basati su LLM.
• Applicare principi di progettazione sicura all’architettura delle applicazioni LLM.
• Utilizzare strumenti come Guardrails AI e LangChain per la validazione, il filtraggio e la sicurezza.
• Integrare tecniche quali l’uso di ambienti isolati, i test “red team” e la revisione umana nei flussi produttivi professionali.

Questo corso insegna agli sviluppatori come progettare applicazioni basate su AI in modo sicuro fin dalla fase di ideazione. I partecipanti imparano a proteggere chatbot, copilot, pipeline RAG e agenti da minacce specifiche legate all'intelligenza artificiale: injection di prompt, avvelenamento dei dati, abuso degli strumenti, fuoriuscita di informazioni riservate e gestione non sicura dell'output del modello. Il programma include progettazione difensiva dei prompt, protezione delle pipeline RAG, applicazione rigorosa del principio del minor privilegio, utilizzo di livelli di sicurezza (guardrail) e pratiche di test del red-teaming, affinché le soluzioni sviluppate siano stabili, affidabili e resistenti anche in ambienti reali.

Questa formazione pratica, tenuta da istruttori Italia (in modalità online o in presenza), si rivolge a professionisti intermedi dell’IA e della cybersecurity che desiderano comprendere e affrontare le specifiche vulnerabilità dei modelli e dei sistemi intelligenti, soprattutto nei settori fortemente regolamentati come la finanza, la gestione dei dati e il settore consultivo.

Al termine del corso i partecipanti saranno in grado di:

• Comprendere i diversi tipi di attacchi avversari diretti ai sistemi basati sull’IA e le strategie per contrastarli.
• Applicare tecniche di rafforzamento dei modelli per proteggere i processi di machine learning.
• Garantire la sicurezza e l'integrità dei dati utilizzati nei modelli di apprendimento automatico.
• Orientarsi nei requisiti normativi legati alla sicurezza informatica dell’IA.

Questo corso formativo, tenuto da istruttori ed erogato in modalità Italia (online o in presenza), è rivolto a ingegneri della sicurezza e responsabili della conformità che desiderano rafforzare la sicurezza delle loro implementazioni EXO, gestire l’accesso ai modelli e governare i flussi di lavoro legati all’intelligenza artificiale interamente localizzati.

Questo corso formativo dal vivo, tenuto da un istruttore in Italia (online o in presenza), è rivolto a professionisti alle prime armi nei settori della sicurezza informatica, della gestione dei rischi e della conformità normativa, desiderosi di acquisire conoscenze fondamentali sulla sicurezza nell’utilizzo dell’AI, sui tipi di minacce possibili e sui framework globali come il NIST AI RMF e lo standard ISO/IEC 42001.

Al termine del corso, i partecipanti saranno in grado di:

• Comprendere i rischi specifici legati alla sicurezza dei sistemi basati sull’intelligenza artificiale.
• Identificare le principali minacce, tra cui gli attacchi avversari, l’avvelenamento dei dati e la inversione del modello di apprendimento.
• Applicare modelli fondamentali di governance, come il Framework per la Gestione dei Rischi nell’AI proposto da NIST.
• Allineare l’utilizzo dell’AI agli standard emergenti, alle linee guida sulla conformità e ai principi etici.

Questo corso formativo in presenza o online in Italia è indirizzato a ingegneri della sicurezza e del Machine Learning che hanno la necessità di riconoscere, analizzare e proteggersi dagli attacchi diretti ai modelli ML e alle applicazioni basate su LLM.

Fondandosi sulle linee guida più recenti del Progetto OWASP GenAI Security, i partecipanti impareranno a identificare, valutare e mitigare le minacce specifiche dell'IA attraverso esercitazioni pratiche e scenari reali.

Questo corso formativo, tenuto da istruttori e svolto in modalità online o in presenza Italia, si rivolge a professionisti di livello avanzato desiderosi di implementare ed valutare tecniche quali l’apprendimento federato, il calcolo multipartito sicuro, la crittografia omomorfica e la privacy differenziale nei processi di machine learning reali.

Al termine del corso, i partecipanti saranno in grado di:

• Comprendere e confrontare le principali tecniche per la tutela della privacy nel machine learning.
• Implementare sistemi di apprendimento federato utilizzando framework open source.
• Applicare i principi della privacy differenziale per un condivisione e addestramento dei modelli sicuri.
• Utilizzare tecniche di crittografia e calcolo sicuro al fine di proteggere gli input e gli output dei modelli.

Questo corso pratico, tenuto da istruttori Italia (in formato online o in sede), è indirizzato a professionisti della sicurezza e specialisti di machine learning che desiderano simulare attacchi sui sistemi di IA, identificare vulnerabilità ed incrementarne la robustezza dopo il deployment.

Al termine del percorso formativo i partecipanti saranno in grado di:

• Simulare minacce reali ai modelli di machine learning.
• Generare esempi avversari per verificare la resistenza dei modelli.
• Valutare il ‘surface attack’ delle API e dei processi di distribuzione dell’Intelligenza Artificiale.
• Progettare strategie di red teaming adatte agli ambienti di deployment dell’IA.

Questo corso formativo, tenuto da istruttori in Italia (online o in presenza), si rivolge a ingegneri e professionisti della sicurezza di livello intermedio desiderosi di tutelare i modelli AI implementati ai bordi di rete da minacce quali manomissione, fuoriuscita di dati, input avversari ed attacchi fisici.

Al termine del corso, i partecipanti saranno in grado di:

• Identificare e valutare i rischi per la sicurezza nei casi di impiego dell’AI ai bordi di rete.
• Applicare tecniche per contrastare manomissioni e garantire inferenza crittografata.
• Rafforzare la sicurezza dei modelli implementati ai bordi di rete e proteggere i flussi di dati associati.
• Implementare strategie mirate alla riduzione delle minacce in contesti embedded e ad risorse limitate.