Struttura del corso
Fondamenti dei sistemi agentici in ambiente di produzione
- Architetture agentiche: cicli operativi, strumenti utilizzati, memoria e livelli di orchestrazione
- Ciclo di vita degli agenti: sviluppo, implementazione e funzionamento continuo
- Criticità nella gestione su larga scala dei sistemi basati su agenti
Infrastrutture e modelli di deployment
- Implementazione di agenti in ambienti containerizzati e cloud
- Strategie di scalabilità: orizzontale vs verticale, gestione della concorrenza e limitazioni di carico
- Orchestrazione multi-agente e bilanciamento del carico lavorativo
Monitoraggio e osservabilità
- Metriche fondamentali: latenza, tasso di successo, consumo di memoria e profondità delle chiamate tra agenti
- Tracciamento dell’attività degli agenti e mappatura dei grafi di chiamata
- Implementazione di sistemi osservabili tramite Prometheus, OpenTelemetry e Grafana
Logging, audit e conformità normativa
- Raccolta centralizzata di log ed eventi strutturati
- Conformità legale e requisiti di tracciabilità nei flussi di lavoro basati su agenti
- Progettazione di sistemi per la registrazione cronologica e la riproduzione degli eventi ai fini del debug
Ottimizzazione delle prestazioni e dei consumi
- Riduzione del sovraccarico computazionale nei processi di inferenza e ottimizzazione dei cicli di orchestrazione degli agenti
- Utilizzo di modelli in cache e embedding leggeri per accelerare i tempi di recupero delle informazioni
- Test di carico ed esercitazioni di stress sui pipeline AI
Controllo dei costi e governance
- Individuazione dei principali fattori che determinano i costi degli agenti: chiamate API, consumo di memoria, elaborazione computazionale e integrazioni esterne
- Monitoraggio dettagliato dei costi per ogni singolo agente ed implementazione di modelli di addebito condiviso
- Politiche automatizzate finalizzate a prevenire la proliferazione incontrollata degli agenti e l’utilizzo inefficiente delle risorse
CI/CD e strategie di rollout per gli agenti
- Integrazione dei processi di sviluppo agentico nei flussi CI/CD esistenti
- Strategie di test, gestione delle versioni e rollback per aggiornamenti iterativi degli agenti
- Implementazione di metodi di rollout progressivi che garantiscano sicurezza durante il deployment
Ripristino da guasti e ingegneria della affidabilità
- Progettazione di sistemi resilienti ai guasti con capacità di degradazione graduale
- Implementazione di meccanismi come ritentive, timeout e interruttori circuitali per aumentare la affidabilità degli agenti
- Procedure di risposta agli incidenti e schemi strutturati per le analisi post-incidente nell’ambito delle operazioni AI
Progetto finale pratico
- Sviluppare e implementare un sistema AI agentico dotato di monitoraggio completo e tracciamento dei costi
- Simulare condizioni di carico, misurare le prestazioni e ottimizzare l’uso delle risorse disponibili
- Presentare la propria architettura e il dashboard di monitoraggio davanti al gruppo dei partecipanti
Riepilogo e prossimi passi
Requisiti
- Solida conoscenza dei principi MLOps e dei sistemi di machine learning in ambiente produttivo
- Esperienza nell’implementazione di applicazioni in contenitori (Docker/Kubernetes)
- Conoscenza degli strumenti per l’ottimizzazione dei costi cloud e la monitorabilità
Destinatari del corso
- Ingegneri MLOps
- Ingegneri di affidabilità dei sistemi (SRE)
- Manager tecnici responsabili della gestione delle infrastrutture AI
Recensioni (3)
Il istruttore è paziente e molto disponibile. Conosce bene l'argomento.
CLIFFORD TABARES - Universal Leaf Philippines, Inc.
Corso - Agentic AI for Business Automation: Use Cases & Integration
Traduzione automatica
Buona miscela di conoscenza e pratica
Ion Mironescu - Facultatea S.A.I.A.P.M.
Corso - Agentic AI for Enterprise Applications
Traduzione automatica
Il mix di teoria e pratica e di prospettive a livello alto e basso
Ion Mironescu - Facultatea S.A.I.A.P.M.
Corso - Autonomous Decision-Making with Agentic AI
Traduzione automatica
