Struttura del corso

Panoramica dell'architettura LLM e della superficie di attacco

  • Come vengono costruiti, distribuiti e accessibili via API i modelli linguistici LLM
  • Componenti chiave nelle pile applicative LLM (ad esempio, prompt, agenti, memoria, API)
  • Dove e come si verificano le questioni di sicurezza nell'uso reale

Iniezione di prompt e attacchi di jailbreak

  • Cosa è l'iniezione di prompt e perché è pericolosa
  • Scenari di iniezione di prompt diretti e indiretti
  • Tecniche di jailbreaking per bypassare i filtri di sicurezza
  • Strategie di rilevamento e mitigazione

Fuga di dati e rischi per la privacy

  • Esposizione accidentale dei dati attraverso le risposte
  • Fughe di PII e abuso della memoria del modello
  • Progettazione di prompt aprivacy-aware e generazione augmentation-based (RAG)

Filtraggio e protezione delle uscite LLM

  • Utilizzo di Guardrails AI per il filtraggio e la validazione del contenuto
  • Definizione di schemi e vincoli di output
  • Monitoraggio e registrazione degli output non sicuri

Autorità umana nei processi e approcci al workflow

  • Dove e quando introdurre la supervisione umana
  • Codici di approvazione, soglie di punteggio, gestione delle cadute
  • Calibrazione della fiducia e il ruolo dell'interpretabilità

Modelli di progettazione sicuri per le applicazioni LLM

  • Privilegi minimi e sandboxing per chiamate API e agenti
  • Limiteri di frequenza, throttling e rilevamento degli abusi
  • Catene robuste con LangChain e isolamento dei prompt

Conformità, logging e governance

  • Garantire l'auditabilità delle uscite LLM
  • Mantenere la tracciabilità e il controllo dei prompt e delle versioni
  • Allineamento con le politiche di sicurezza interne e i requisiti normativi

Riepilogo e passaggi successivi

Requisiti

  • Una comprensione dei grandi modelli linguistici e delle interfacce basate su prompt
  • Esperienza nella costruzione di applicazioni LLM utilizzando Python
  • Familiarità con le integrazioni API e i deployment basati sul cloud

Pubblico

  • Sviluppatori AI
  • Architetti di applicazioni e soluzioni
  • Gestori prodotto tecnici che lavorano con strumenti LLM
 14 Ore

Numero di Partecipanti


Prezzo per Partecipante

Corsi in Arrivo

Categorie relative