Corso di formazione Etica e governance degli agenti AI autonomi

Fondamenti dell'etica nei sistemi autonomi

• Definire l'autonomia negli agenti AI
• Principali teorie etiche applicate al comportamento delle macchine
• Perspettive degli stakeholder e design sensibile al valore

Rischi sociali e casi d'uso ad alto rischio

• Agenti autonomi nella sicurezza pubblica, nella salute e nella difesa
• Collaborazione uomo-AI e limiti di fiducia
• Scenari di conseguenze impreviste e amplificazione del rischio

Paesaggio legale e regolatorio

• Panoramica sulla legislazione AI e sulle tendenze di politica (AI Act UE, NIST, OCSE)
• Responsabilità, responsabilità legale e personalità giuridica degli agenti AI
• Iniziative di governance globale e lacune esistenti

Spiegabilità e trasparenza decisionale

• Sfide del processo decisionale autonomo a scatola nera
• Progettazione di agenti spiegabili e auditabili
• Strumenti e framework di trasparenza (ad es., model cards, datasheets)

Allineamento, controllo e responsabilità morale

• Strategie di allineamento AI per il comportamento degli agenti
• Paradigmi di controllo human-in-the-loop e human-on-the-loop
• Responsabilità condivisa tra progettisti, utenti e istituzioni

Valutazione e mitigazione del rischio etico

• Mappatura dei rischi e analisi dei fallimenti critici nella progettazione degli agenti
• Misure di sicurezza e meccanismi di arresto di emergenza
• Audit di bias, discriminazione ed equità

Progettazione della governance e supervisione istituzionale

• Principi della governance responsabile dell'AI
• Modelli di supervisione e audit multistakeholder
• Progettazione di framework di conformità per gli agenti autonomi

Riepilogo e prossimi passi