Contattataci

Struttura del corso

Panoramica dell'architettura LLM e della superficie di attacco

  • Come vengono costruiti, distribuiti e accessibili i LLM tramite API
  • Componenti chiave negli stack delle applicazioni LLM (ad es. prompt, agenti, memoria, API)
  • Dove e come si manifestano i problemi di sicurezza nei casi d'uso reali

Attacchi di iniezione di prompt e jailbreak

  • Cos'è l'iniezione di prompt e perché è pericolosa
  • Scenari di iniezione diretta e indiretta di prompt
  • Tecniche di jailbreak per aggirare i filtri di sicurezza
  • Strategie di rilevamento e mitigazione

Fuoriuscita di dati e rischi per la privacy

  • Esposizione accidentale dei dati attraverso le risposte
  • Fuoriuscita di dati personali (PII) e uso improprio della memoria del modello
  • Progettazione di prompt rispettosi della privacy e generazione aumentata dalla recupero (RAG)

Filtraggio e protezione dell'output LLM

  • Utilizzo di Guardrails AI per il filtraggio dei contenuti e la convalida
  • Definizione di schemi e vincoli di output
  • Monitoraggio e registrazione degli output non sicuri

Approcci di supervisione umana e flusso di lavoro

  • Dove e quando introdurre la supervisione umana
  • Codifiche di approvazione, soglie di valutazione e gestione dei casi di fallback
  • Calibrazione della fiducia e ruolo dell'interpretabilità

Pattern di progettazione per applicazioni LLM sicure

  • Principio del privilegio minimo e sandboxing per le chiamate API e gli agenti
  • Limitazione della frequenza (rate limiting), throttling e rilevamento di abusi
  • Orchestrazione robusta con LangChain e isolamento dei prompt

Conformità, registrazione e governance

  • Garantire la tracciabilità dei output LLM
  • Mantenere la tracciabilità e il controllo delle versioni di prompt e modelli
  • Allineamento con le politiche di sicurezza interne e le esigenze normative

Sintesi e prossimi passi

Requisiti

  • Conoscenza dei modelli linguistici di grandi dimensioni e delle interfacce basate su prompt
  • Esperienza nella creazione di applicazioni LLM utilizzando Python
  • Confidenza con le integrazioni API e le distribuzioni basate su cloud

Destinatari

  • Sviluppatori di intelligenza artificiale
  • Architetti di applicazioni e soluzioni
  • Product manager tecnici che lavorano con strumenti LLM
 14 ore

Numero di Partecipanti


Prezzo per partecipante

Corsi in Arrivo

Categorie relative